Exceptional AI SDE · HR Screen

xAI 如何降低 LLM 幻觉:证据、拒答和线上评估

Exceptional AI SDE HR 初筛问如何防止 hallucination;从任务边界、证据校验、拒答与量化评测构造可落地回答。

题目重点:Exceptional AI SDE HR 初筛问如何防止 hallucination;从任务边界、证据校验、拒答与量化评测构造可落地回答。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • 训练场景是回答可核查事实的企业知识问答;开放创作中的虚构不自动算错误。
  • 知识源可能过期、相互矛盾,用户提问可能越过可访问权限;评价需分事实错误、无证据推断、引用错配和过度拒答。
  • 目标是降低而非保证消除幻觉,同时衡量有用回答覆盖率和延迟/成本。

解题路线

  1. 先定义错误:把回答拆成原子事实主张,按权威来源与时间戳判断有无支持;不能仅看整体流畅度。
  2. 对外部事实使用检索或工具调用,把文档 ID、版本和权限带入上下文;生成后做 claim→source 对齐。检索不到或来源冲突时明确不确定并追问/拒答。
  3. 结构化任务优先让代码或数据库计算,模型负责解释;数字、日期、引用与实体名做确定性校验。降低随机性不能单独证明事实正确。
  4. 按风险校准拒答阈值,高风险场景更保守;给人工升级路径,记录被纠正样本,避免无限追问。
  5. 离线测试覆盖可答、不可答、过期/冲突、多跳与权限隔离;记录有证据主张精度、错误主张率、可答覆盖率、拒答准确率。线上抽样审计与纠错回流。

手动走一遍

训练例:用户问今年报销上限,检索到旧政策 A 与新政策 B。系统按生效日期、地区和权限选 B 并引用版本;若地区不明,就追问或说明暂不能确认。直接生成一个数即使碰巧正确也缺可追溯依据。

规模与取舍

每次回答增加检索、重排与主张核验开销,延迟由这些步骤的串行部分决定;知识索引随文档量增长。具体性能预算题目未明确。

易错点与追问

容易失分的边界

  • 声称 RAG 或低 temperature 可以彻底消除幻觉。
  • 引用文档却未检查它是否支持对应主张。
  • 只提高拒答率使错误率下降,却不报告可答覆盖率。
  • 把过期或无权限资料当正确证据。

继续深挖

  • 检索结果相互矛盾如何处理?
  • 如何衡量引用真的支持主张?
  • 怎么区分检索失败与生成失败?
  • 模型更新后怎样做回归测试?
✓已复制微信号!