四 第四生产力NOTES ON AI & ENGINEERING

我劝客户别急着上 RAG:他的数据,不配

最近接了个活,给一家企业做智能客服系统。

按行业惯例,这种需求闭着眼睛都是上 RAG——就是现在最火的那种”企业知识库问答”,你问什么,AI 从你的资料里找答案。

结果我拿到客户的数据一看,乐了。

图书管理员与查表员

全是产品规格表。型号、功率、尺寸、电压,一格一格的参数,整整几百行。

我当场跟客户说了句得罪人的话:你这数据,不适合 RAG。

RAG 是个啥?一个图书管理员

先花一分钟把 RAG 说明白,不懂技术也能懂。

RAG 的本事,类似一个很能干的图书管理员。你问它一个问题,它不理解字面,它理解”意思”。然后跑到书架上,把意思相近的内容翻出来给你。

你问”这东西坏了咋办”,它能找到说明书里”故障排除指南”那一页——虽然你俩用的词完全不一样。这就是它牛的地方:找的是”意思”,不是”字眼”。

但这位管理员有个致命弱点:它只会找”差不多的”,不会找”必须是这个的”。

问题就出在这

规格参数这种东西,要的是一字不差。

客户问:“A301 这个型号功率多少?”

正确答案是 1500 瓦。但图书管理员翻了一圈,给你抱回来 A302 的 1600 瓦、A300 的 1400 瓦——意思都很相近嘛,都是 A 系列,都是功率。

可对买家来说,差 100 瓦就是买错货。买错货就是退货、投诉、赔偿。

所以你看,不是 RAG 不好,是它擅长的和你需要的,压根不是一回事。参数查询要的不是图书管理员,是查表员——翻到那一行那一列,把那个数字原封不动抄出来。

三个问题,测测你的业务适不适合 RAG

三问自测

老板们不用懂技术,回答三个问题就够:

第一,客户问的,要”差不多”还是”一字不差”? 退货流程、保修政策,差不多就行,RAG 能干。型号参数、价格库存,必须精确,小心了。

第二,你的数据,是”文章”还是”表格”? 说明书、聊天记录、历史工单,是 RAG 的主场。一列列的参数表,是它的软肋——数字没有”意思”可找。

第三,答错了要不要紧? 随便聊聊答错了无所谓。但报错一个参数,客户买错型号、电工接错线,那是要赔钱的。

三个问题里有任何一个答案是”要精确”,都别硬上纯 RAG。

那怎么办?一个机器人,配两个师傅

正确的姿势其实不复杂,看这张图的架构:

混合架构

前台还是一个客服机器人,客户随便问。关键是后台加了个”分拣员”:

客户问”怎么退货”——意思类问题,分给 RAG 师傅,去说明书里找答案。

客户问”A301 功率多少”——参数类问题,分给查表师傅,直接翻规格表,一字不差报出来。

各走各的道,谁也别为难谁。

我这个客户的系统最后就是按这个思路改的。钱没多花多少,但客服终于不会把 1500 瓦说成 1600 瓦了。

给老板们一句掏心窝的话

AI 落地这行干久了,我发现最贵的从来不是技术,是用错技术。

RAG 是好东西,但它像一把菜刀——切菜一流,你拿它拧螺丝,只会把螺丝和刀都搞坏。

上 AI 之前,先花半天时间,把你们最真实的 20 个客户问题拉出来,按上面三个问题过一遍。适合不适合,当场见分晓。

这半天,可能帮你省下几十万。

你们公司的客服问题,是”意思类”多还是”参数类”多?评论区聊聊,我帮你把把脉。