Skip to content

机器人答错了,查它为什么这么答 ​

每一条机器人发出的消息,都能展开看它当时的完整思考过程。

在哪看 ​

在测试对话里,或者在工作台的真实对话里,选择机器人消息下方的 AI 推理过程 展开:

消息气泡下展开的 AI 推理过程,逐步列出检索与工具调用

展开后最上面是结论,说的是这次回复最后怎么样了:

结论意思
已答复客户收到了回复
已答复(提前结束)机器人想得太久、超出了限制,系统让它直接给出回复。客户收到了回复
已转人工这一次机器人把对话转给了客服
回复未发送回复生成了,但在发出前被系统拦下,客户没有收到
未能答复出错或超时,客户没等到回复

结论下面有时会多一行原因(比如转人工的理由),再下面是几项指标:用了几个工具、知识库有没有命中、命中的相关程度。

结论之下按顺序列出这次回复经历的每一步,排查时主要看这三类:

步骤类型能看到什么
深度思考机器人当时在想什么、怎么判断的
知识库检索搜了什么关键词、命中了哪几条、每条的相关度
工具调用用了哪个工具、传了什么参数、返回了什么、成功还是失败

团队里所有客服都能看

不需要管理员权限。客服在接手机器人转过来的对话时,展开 AI 推理过程就能知道前面机器人查了什么、做了什么,不用再问客户一遍。

推理的步骤明细保留 30 天。超过之后展开只剩结论,并提示 超过 30 天,步骤详情已清理,仅保留结论。

机器人正在回复时,对话里能看到它在做什么 ​

从客户发出消息到机器人回复,中间常要等几秒到十几秒。这段时间,工作台的对话最下面会出现一个机器人气泡,实时显示它在做什么,例如:

  • 正在思考
  • 正在查知识库、正在查询客户资料、正在创建工单
  • 正在调用「查询订单」 —— 用的是自定义工具时,引号里是工具名
  • 正在转接人工

回复一到,这个气泡就换成回复内容。客户那边只会看到「正在思考」这类笼统的提示,不会看到具体查了什么。

某一步没办成时,这行字会变成红色,比如转人工没转成、调用的工具失败了。显示 机器人未能完成回复 时,这一轮客户没有收到回复,需要客服接起这个对话跟进。

对照着查:三类典型问题 ​

机器人答错或答不上 ​

用 知识库应答 的机器人不经过 AI,没有推理过程可看。这一档答不上来,要么这个问题没录进 FAQ,要么客户的问法差得远。客户答不上的原话会进未匹配问题,在那里新建 FAQ 或加成已有 FAQ 的问法就能解决;答成了别的 FAQ,在测试对话里发一遍原话,看回答下方的依据是哪一条。

另外两档下展开 AI 推理过程,看知识库检索那一步:

  • 没有检索这一步 → 它认为这个问题不需要查知识库。把这条补进场景处理,例如「客户问业务问题:先查知识库再回答」。
  • 检索了但没命中 → 知识库里没有对应内容,或者客户的问法差太远。这类问题会进未匹配问题,在那里补成新 FAQ,或加成已有 FAQ 的问法。
  • 命中了但答得不对 → 命中的那条 FAQ 内容本身有问题,去知识库里改它。

该转人工却没转 ​

看深度思考那一步,机器人会说明它为什么判断还不该转。

多数情况是转人工策略选的是 均衡模式 或 AI 优先,这两档下客户光是喊「我要人工」不会触发转接。要客户一开口就转,打开 转人工关键词;要 AI 拿不准时尽早交出去,改成 人工优先。见设置机器人什么时候接待、什么时候转人工。

工具没起作用 ​

看有没有对应的工具调用步骤:

  • 没有这一步 → 该工具在这个机器人上没启用,在详情页左侧的 工具 分区里把它打开。
  • 有这一步但失败了 → 记录里会写明失败原因。自定义工具失败时,对话里还会给客服发一条只有内部能看到的提示。

上线后该查什么 ​

前几天翻几条真实对话的 AI 推理过程,把测试时没想到的问法补进知识库。之后每周看一眼转人工的那批对话就够了。

常见问题 ​

展开消息看不到 AI 推理过程 ​

症状:某条机器人消息下面没有 AI 推理过程入口。

成因:这条消息不是 AI 生成的,比如自动回复,或者用 知识库应答 直接回的 FAQ。

解决:确认这条消息确实是机器人经过 AI 推理发出的。超过 30 天的消息入口仍在,只是展开后只剩结论。

下一步 ​