题目重点:发布决定需要可比较证据,也需要明确延期和停止条件。
题意与假设
这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。
- 这是训练中的模型发布决策框架,不代表公司的内部发布政策;具体风险类别、threshold和审批角色由产品明确。
- 离线评估、线上试验和真实用户影响不同,不能只凭benchmark平均分或个人体验给结论。
解题路线
- 先定义目标用户/任务和候选模型相对基线的变化,预注册关键质量、成本、延迟和风险指标。按语言、使用场景、用户群及高影响任务切片,平均提升不能掩盖某关键切片恶化。
- 准备release gate:必须通过的硬门槛、可权衡的软目标、证据不足需补的评估。对风险边界不清的新能力先限scope,区分“模型能力更强”与“当前产品可安全释放的能力更多”。
- 灰度按有代表性的受限用户/流量,保留model version、路由和配置回滚。监控质量代理、错误率、用户投诉和下游动作异常,不能只盯GPU和HTTP200。
- 给明确决策:发布/有限发布/延迟,每项带依据、未知点、owner与复查日期。回滚模型后旧生成内容/外部动作仍可能存在,需另外定义补救与通知,不能假设路由切旧版会撤销全部影响。
手动走一遍
离线整体得分+3%,某受限语言错误率明显升高:可以延迟该语言上线或限流验证,而不是一句“平均赢了所以release”。观察到工具越权案例,即使低比例也按已定高影响gate停止相关能力,不以低平均率直接稀释。
规模与取舍
准备一页release scorecard:基线/候选/置信与样本覆盖/硬门槛/灰度止损。样本量依效应与切片数量而定,面试中没有数据就给测量计划。
易错点与追问
容易失分的边界
- 发布决策只由准确率一个数字驱动。
- 上线后没有可观测信号,回滚标准临时拍脑袋。
继续深挖
- 收益显著但一个指标证据不足,你会怎样设计有限发布?
- 如何防用户或业务分布变化使离线gate失效?
