给大模型配FAQ前要准备什么,检索和提示词方案怎么选
先想清楚:FAQ要解决的是命中问题,不是写文档
大模型FAQ配置,本质是把用户高频问题整理成可检索、可维护的问答资产,再让模型在回答时优先使用这些内容。
它要解决的是“同一类问题答案不一致”和“模型编造细节”,而不是单纯往提示词里塞一段问答文本。
适合做FAQ配置的场景有三个:问题重复度高、答案有明确口径、答案会随业务更新。
如果用户问题非常发散,或者答案需要大量实时数据,单靠FAQ并不能覆盖,需要配合检索或工具调用。
前置准备:问题清单和答案口径
配置前先准备两样东西,否则后面接入什么工具都容易乱。
第一是问题清单。
从客服记录、搜索词、群聊提问里收集真实问法,同一含义保留多种说法。
例如“怎么退款”“退款多久到账”“能取消订单吗”应归为同一类。
第二是答案口径。
每个问题对应一条标准答案,写清适用条件、时效和例外。
例如退款答案要写明“仅支持未发货订单”和“到账时间以支付渠道为准”,避免模型自由发挥。
建议先整理成表格,字段至少包括:问题、相似问法、标准答案、更新时间、负责人。
规模在几十到几百条时,人工维护完全可行;
超过这个量级再考虑用知识库工具管理。
两种接入方式怎么选
小规模、答案固定的FAQ,可以直接写进系统提示词或固定问答模板。
优点是配置简单、响应快;
缺点是条目一多就会挤占上下文,更新也要改提示词。
条目较多、需要持续更新时,更适合走知识库检索。
把每条FAQ作为独立文档切片存入向量库或全文检索库,用户提问时先检索最相关的几条,再交给模型组织回答。
这种方式便于增删改,也能减少无关内容干扰。
判断条件可以简单记:FAQ在50条以内且很少变动,先用提示词方案;
超过50条、每周都有更新,或者需要按业务线拆分,优先上知识库。
配置步骤:以知识库检索为例
下面按常见RAG流程说明操作顺序,具体命令和参数以你使用的框架为准。
- 切分文档。每条FAQ作为一个独立片段,保留“问题+答案”结构,不要把几十条问答塞进一个长文档,否则检索命中后模型拿到的上下文会过于杂乱。
- 生成向量并入库。用所选向量模型对片段编码,写入向量库。记录每条FAQ的ID和更新时间,方便后续按版本替换。
- 设置检索参数。先取Top 3到Top 5候选,再用相似度阈值过滤。阈值过低会召回无关内容,过高会漏掉同义问法,需要拿真实问题测。
- 编写回答提示词。明确要求模型“优先依据检索到的FAQ回答;FAQ中没有覆盖时,说明暂未找到并引导人工”,同时禁止编造时效、价格、政策类细节。
- 配置兜底回复。检索结果为空或相似度低于阈值时,返回固定话术,不要直接让模型自由回答。
如果采用提示词方案,第1到3步可以省略,但仍要把FAQ按“问题-答案”成对写入,并控制总长度。
容易踩的坑
只写标准问法。 用户很少按文档提问,同义问法不补,检索命中率会明显偏低。
答案写得太长。 一条FAQ里塞进多个条件,模型容易只取其中一句。
建议一条FAQ只回答一个问题,复杂问题拆成多条。
没有兜底。 检索不到时模型仍会作答,这是幻觉的高发点。
兜底话术和人工入口要提前配置。
更新后不清理旧条目。 同一条FAQ新旧版本同时存在,检索可能命中过时答案。
替换时要删除旧片段或做版本标记。
验证:用问题集检查效果
配置完成后,准备一组测试问题,至少覆盖三类:标准问法、同义问法、FAQ未覆盖的问题。
逐条检查返回答案是否与标准口径一致,未覆盖问题是否触发兜底。
重点关注两个指标:命中率和答案一致性。
命中率看该命中的FAQ有没有被检索到,一致性看回答是否偏离标准答案。
发现漏召回时,优先补充相似问法或调整切片方式,而不是一味调低阈值。
上线后保留日志,定期把新出现的问题补进FAQ清单。
FAQ配置不是一次性的工作,问题清单和答案口径都需要跟着业务变化维护。