您所在的位置：首页 - 新能源 - 正文新能源

大模型实践分享：融合大幅降低大模型的幻觉，提供更准确可靠问答体验

奚诗科技 08-01 【新能源】 747人已围观

摘要TFlowAI通过融合RAG问答系统与Agent框架，提供了一个创新的解决方案，旨在提高B端业务场景下的AI客服和导购应用的响应质量和准确性。本文将深入探讨这一组合的优势及其在实际应用中的表现，为读者揭示如何利用先进技术优化客户服务体验。实践产品介绍，TFlowAi是面向B端业务场景Agent平台，能按流程处理任务（SOP），围绕目标来进行离散推理。能快速搭建Ai客服、AI导购等应用。产品允许LLM与环境进行交互，根据环境数据的反馈不断的调整行动计划/策略。且整个sop的过程是由文本来控制。基础

TFlowAI通过融合RAG问答系统与Agent框架，提供了一个创新的解决方案，旨在提高B端业务场景下的AI客服和导购应用的响应质量和准确性。本文将深入探讨这一组合的优势及其在实际应用中的表现，为读者揭示如何利用先进技术优化客户服务体验。

实践产品介绍，TFlowAi是面向B端业务场景Agent平台，能按流程处理任务（SOP），围绕目标来进行离散推理。能快速搭建Ai客服、AI导购等应用。产品允许LLM与环境进行交互，根据环境数据的反馈不断的调整行动计划/策略。且整个sop的过程是由文本来控制。

基础信息如下：

一、为什么需要RAG Agent的组合

当前Rag问答通常会存在较大的幻觉，模型容易基于自身知识进行胡编乱造。通常企业期望只基于知识库内容进行解答，不乱发散。而我们发现Agent有很好的观察、思考的机制。能有效的控制模型的发散问题

所以我们团队将两者进行融合来进行知识库的问答，发现能很好的控制模型发散和幻觉，只用知识库检索的片段来回答。

RAG Agent的优势：

符合客户诉求：对于toB的客服场景问答而言，提供准确可靠的信息是非常重要的。而Agent Rag的组合能够很好的让模型，围绕知识库中与用户提问相关的片段来回答。解决掉模型幻觉严重，过于发散，回答牛头不对马嘴的问题。

二、先来分别看下Rag和Agent的基本处理逻辑

Rag流程

常见rag问答

流程：

问题：当check是用于补充模型的知识，当片段与问题不相关或不足以解释问题时。模型容易基于自己的理解进行解答，从而胡编乱造。

Agent（Re-act）流程：

re-actagent处理逻辑

优势：在Re-act模式下。Agent在解答问题时，会观察用户的提问、工具的返回，思考与用户提问的相关性，通过提示词约束后，可以始终围绕着目标、要求来展开。

那当用户提问时，借助Agent调用知识库获取片段问题的片段，再让Agent来回答用户的问题

三、融合Agent和Rag融合的方案&流程

OK，现在我们将两个流程融合在一起。

融合后的流程下：

Agent Rag

处理流程示例：

用户提问

Agent：第一轮处理理解用户提问

Agent观察：用户提问

Agent思考：理解问题与提示词（目标、任务流程等）关系

Agent行动：反写用户提问。调用知识库工具

Rag：处理（处理部分）

问题的向量化

向量数据库的检索；

返回检索check

Agent：第二轮处理，处理知识库片段内容

Agent观察：知识库返回的知识片段

Agent思考：理解知识库片段与用户问题、提示词（目标、任务流程等）的关联性与问题

Agent行动：回复

四、看下实际处理的结果

进行两个提问：以某充电桩基于产品手册用户问答为例如

问题处理的回复效果如下：

五、处理流程分析

1.分析用户提问：如何充电。知识库返回对应的答案片段干扰片段

第一轮agent处理过程：

知识库处理

第二轮Agent思考处理：

思考：根据知识库的内容，以及用户问题，充电的步骤是需要将充电插头接入空闲插座，连接好插座后，选择以下两种方式之一启动充电。扫码充电:XXXXXX

行动：最终回复：根据您的提问，以下是关于如何充电的详细步骤：\n\n1、将充电插头接入空闲插座，连接好插座后，选择以下两种方式之一启动充电。\n2、扫码充电:连接好充电器后，用手机微信或支付宝扫一扫设备二维码。第一步选择刚才的插座端口，第二步选择相应的金额，第三步点击“开始充电”启动充电。\n3、刷卡充电：连接好充电器后，用已授权且有余额的电卡，紧贴设备相应端口的刷卡区（距离小于5cm），听到“刷卡成功”时，插座端口自动启动充电。\n\n结束充电时，设备会通过微信或支付宝推送给付款人，并提示具体的充电结束扣费金额，充电时间，停止原因等信息。

2.用户提问：充电政策，知识库没有对应的答案

检索出来的知识片段如下：

而Agent第二轮的思考过程

思考：根据知识库的返回，并没有直接回答用户关于“充电政策”的具体内容。

行动：最终回复：非常抱歉，关于充电政策的具体内容，我们的知识库中并没有直接的信息。但我可以告诉您，我们的充电桩安装位置需要符合消防要求，严禁安装在公共门厅、疏散走道、楼梯间、安全出口，并且需要同步安装漏电保护装置。如果您需要更详细的信息，建议您查阅我们的产品手册或联系我们的客服部门

五、结论

综上所述，我们可以看到，在Agent与rag结合后，借助Agent能给rag带来两个好处

2、通过Agent观察、思考机制，识别检索结果中与问题相关的部分，进行针对性选择内容来进行解答。不相关的内容不会强行关联。核心关注与问题的相关性。

3、模型本身的知识，可以根据选择来使用。示例中，提示词要求模型只能基于知识库回复进行解答。限制了模型本身自己的知识的发挥。