← 全部笔记
Note 03
向量检索找的是「相似」。而型号 A 和型号 B 的参数表,在向量空间里挨得非常近。
给销售做询盘问答的时候,最先想到的做法是把所有资料一股脑灌进向量库:产品手册、参数表、历史问答、报价单。检索出来喂给模型,让它回答。
这个做法在演示时效果极好,在真实使用中很危险。因为向量检索的本质是"找语义上相近的片段",而参数表这种东西,相近恰恰是它们的特征 —— 同一系列的两个型号,描述文本可能有九成重合,差别只在几个数字上。检索器把 B 型号的参数段落召回给了 A 型号的问题,模型不会质疑,它会流畅地把 B 的参数当成 A 的答出来。
客户拿着这个参数去下单,货到了对不上,这件事的成本不是"回答质量下降",是退货和信任。
所以拆成了三层。型号、参数、认证这类硬事实走结构化精确匹配 —— 查得到就返回,查不到就说查不到,不进向量检索。产品说明、应用场景这类本来就模糊的内容才走向量。历史问答单独一层,用来对齐口径和语气。
代价是覆盖率降了:有些问题系统会回"这个我查不到,请人工确认"。销售一开始有意见。但用了两周之后反馈变了 —— 因为他们发现,一个会说"不知道"的系统,比一个什么都答得上来但偶尔编的系统更省事:后者你每条都得自己核一遍。