题目重点:从训练与验证差距诊断泛化失败,比较数据、早停、正则与模型容量。
题意与假设
这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。
- 训练/验证使用同一指标合同;分布偏移和数据泄漏需与常规过拟合分开诊断。
解题路线
- 过拟合表现为对训练数据细节拟合强、对未见样本泛化差,先看按实体/时间正确切分的学习曲线与错误切片。
- 数据质量/覆盖、合理增强和泄漏审计优先;更多重复或错误数据不一定有效,增强也不能改变标签语义。
- 容量、weight decay、dropout、早停和预训练可各自减少有效自由度或改善表示。超参用验证集选择,最终测试集不用于反复调参。
- 深度学习还要核对train/eval差异、BN统计和推理预处理。训练loss低验证高并不自动证明某个正则缺失,也可能label/分布/实现不一致。
- 用单变量消融比较性能、稳定性与计算预算;损失gap下降而两边都更差可能是欠拟合。
手动走一遍
训练准确率99%、验证70%,先检查近重复/类别分布和真正独立split,再比较容量与正则;不能直接承诺加dropout提高到某值。增强裁掉唯一目标却保留原label会引入错误监督。
规模与取舍
正则可能增加训练成本或降低收敛速度;早停节省计算但验证频率与选择偏差需控制。报告多seed和重要切片。
易错点与追问
容易失分的边界
- 训练/验证差距所有情形都归过拟合。
- 只报加dropout。
- 用测试集调超参。
继续深挖
- 样本量学习曲线如何帮助决策?
- 分布偏移下如何评估?
