RAG减少幻觉,应从“找对资料”进一步检查“是否忠实使用资料”。检索成功后仍可能发生遗漏限制条件或错误计算。
对答案做证据核对
要求关键结论对应具体片段,超出资料范围的推断单独标记。
处理矛盾版本
发现资料冲突时说明需要确认,不任意选较新的文件名。
设置拒答评估
对无答案问题检验是否停止编造,对带答案问题检验是否过度拒答。两者一起评估,不能只追求回答覆盖率。
检索正确后还要核对推理
查看模型是否遗漏限制条件、混合不同产品规格或误读表格单位。
缩小上下文到相关段落,并要求标记未确认事项;用原失败问题复测,不能仅检查引用存在。
例如来源写“在指定工况下适用”,回答却省略工况,应修正生成约束并加入该失败样本。
相关阅读:企业RAG知识库:资料整理、检索、权限与持续更新。