题目重点:Exceptional AI SDE HR 初筛问如何防止 hallucination;从任务边界、证据校验、拒答与量化评测构造可落地回答。
题意与假设
这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。
- 训练场景是回答可核查事实的企业知识问答;开放创作中的虚构不自动算错误。
- 知识源可能过期、相互矛盾,用户提问可能越过可访问权限;评价需分事实错误、无证据推断、引用错配和过度拒答。
- 目标是降低而非保证消除幻觉,同时衡量有用回答覆盖率和延迟/成本。
解题路线
- 先定义错误:把回答拆成原子事实主张,按权威来源与时间戳判断有无支持;不能仅看整体流畅度。
- 对外部事实使用检索或工具调用,把文档 ID、版本和权限带入上下文;生成后做 claim→source 对齐。检索不到或来源冲突时明确不确定并追问/拒答。
- 结构化任务优先让代码或数据库计算,模型负责解释;数字、日期、引用与实体名做确定性校验。降低随机性不能单独证明事实正确。
- 按风险校准拒答阈值,高风险场景更保守;给人工升级路径,记录被纠正样本,避免无限追问。
- 离线测试覆盖可答、不可答、过期/冲突、多跳与权限隔离;记录有证据主张精度、错误主张率、可答覆盖率、拒答准确率。线上抽样审计与纠错回流。
手动走一遍
训练例:用户问今年报销上限,检索到旧政策 A 与新政策 B。系统按生效日期、地区和权限选 B 并引用版本;若地区不明,就追问或说明暂不能确认。直接生成一个数即使碰巧正确也缺可追溯依据。
规模与取舍
每次回答增加检索、重排与主张核验开销,延迟由这些步骤的串行部分决定;知识索引随文档量增长。具体性能预算题目未明确。
易错点与追问
容易失分的边界
- 声称 RAG 或低 temperature 可以彻底消除幻觉。
- 引用文档却未检查它是否支持对应主张。
- 只提高拒答率使错误率下降,却不报告可答覆盖率。
- 把过期或无权限资料当正确证据。
继续深挖
- 检索结果相互矛盾如何处理?
- 如何衡量引用真的支持主张?
- 怎么区分检索失败与生成失败?
- 模型更新后怎样做回归测试?
