10:02，顾客在公众号里发了一句「昨天的订单没送到，退款」。
10:02，AI 回复：请提供订单号。
10:04，顾客发来订单号。AI 查到订单，状态「已配送」，于是回复：订单显示已送达，如未收到请联系门店。
10:07，顾客说没收到，骑手放错楼了。AI 又走了一遍同样的流程，还是那句话。
10:11，顾客开始带脏话。AI 依然礼貌，建议「稍后会有专员联系您」。
10:19，顾客在门店群里发了截图，@了店长。群里有三百多人，其中不少是老客。
10:26，店长看到消息，电话过去，确认骑手放错，退了款，另外补了一张券。
10:31，客服主管在后台看到这条会话，标记「高优先级」，但已经没用了。
10:39，顾客在群里说解决了，谢谢店长。
10:44，退款到账。
这 37 分钟里还有一笔账没人算：店长垫的钱当天没走系统，第二天补单；客服主管为这条会话写了复盘；群里三个老客私信问「你们现在没人管了吗」。一次退款，成本远不止那一单的钱。
整件事里，AI 的每一句回复都挑不出错：礼貌、按流程、有依据。但它没解决任何问题，还把 9 分钟变成了 24 分钟，顺带让三百多个老客看了一场。
下午三点复盘，店长说了一句话
后来我联系上那位顾客。他说不是要闹，是怕没人管：「机器人一直问订单号，我就知道它解决不了。」他在群里发截图，是因为那是他唯一能找到真人的地方。这句话比任何满意度调查都准。
客服主管给我看了后台：那条会话被标记了三次「客户情绪激动」，但没有一次触发转人工。规则里只写了「连续三次未解决转人工」，而 AI 每次都认为自己已经回复，计数从来没到三。
：它不是不聪明，是不知道什么时候该闭嘴。问题不在答得对不对，在于这类事本来就不该由它先接。
退款不是「查询进度」，是「承诺结果」。它可以收集订单号、生成工单、告诉顾客「已转专员，3 分钟内联系您」，但不能说「已为您退款」。钱的事，得有人负责。这一条如果不在流程里写死，模型总有一天会为了「帮上忙」而答应下来。
账户安全同理。改手机号、解绑、验证码，这些环节被绕过一次，损失不是一单的钱。这类请求还常常带着紧迫感——「我手机丢了，马上帮我改」——正是最容易被话术带着走的时候。
投诉升级要单独说。情绪激烈的对话，AI 越解释越糟，因为它判断不了「现在该闭嘴，让人来接」。一条简单规则就够：出现「投诉」「曝光」「12315」，直接转人工并置顶，中间不要再多问一轮「请问您的问题是什么」。
法律与合同、医疗与食品安全，没有讨论余地，一律人工。
还有一类更危险：顾客问「这个菜里有花生吗，我过敏」。AI 从商品描述里找不到过敏原，就答「应该没有」。这句话的后果不是退款，是急救。我们把所有涉及成分、过敏、儿童食用的问题都划进人工，宁可慢十分钟。
前者错一个字就是责任，后者错一个字可能是事故。剩下的才是它的主场：营业时间、门店地址、订单状态、预约改期、常见操作。这些有标准答案，答错代价低，也最容易做出体验差——用户半夜问一句，两秒钟就有回复，这件事人工做不到。
上线前准备三样东西
还有体验上的一条：转人工不要问「请问您的问题是什么」。顾客已经说过了，再问一遍等于告诉他「刚才没人听」。正确做法是把已有信息带过去，人工第一句就能接上。
：从历史工单里抽 200 条真实问题做评测集，别用自己编的题；定一个转人工时限，比如 3 分钟，没做到就是流程问题不是模型问题；每周抽 50 通看，把答错的样本补进知识库或规则。还有一件容易忘的：开场告诉顾客
评测集是这么建的：从过去半年的工单里按类型分层抽 200 条，退款、配送、菜品、账户各 50 条，每条标注正确答案和「是否应转人工」。上线前跑一遍，转人工判断错了 11 条，其中 9 条是「该转没转」。这 9 条后来变成了规则。
我们把这条会话做成案例，放进新客服的入职培训。课上不讲模型原理，只放这 37 分钟的时间线，让新人标出哪一步应该转人工。二十个人标完，十七个标在 10:07——就是顾客说「骑手放错楼了」那一句。人的判断其实很准，问题是我们没把这个判断写进系统。
「我是智能助手，需要人工请回复 0」。《生成式人工智能服务管理暂行办法》要求对生成内容标识、告知用户在与 AI 交互。这既是合规，也能省掉后面一半的纠纷——顾客知道对面不是人，期待就不会错位。那家连锁后来把五类问题的分流写进了系统
顺便说一句，AI 客服并不等于省人。它省的是重复问答的时间，把人力挪到真正需要判断的地方。如果按「减少多少坐席」来算这笔账，最后一定是把该转人工的也硬留下来，然后出事。
：命中关键词直接转人工，转接时把订单号、门店、历史会话一起带过去。改完之后，AI 的处理量降了两成，投诉反而少了。店长说这才对，机器管问得多的，人管问得难的。
