MLE / Research Scientist · ML Coding / Design

TikTok 过拟合:验证切分、容量与深度学习正则

从训练与验证差距诊断泛化失败,比较数据、早停、正则与模型容量。

题目重点:从训练与验证差距诊断泛化失败,比较数据、早停、正则与模型容量。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • 训练/验证使用同一指标合同;分布偏移和数据泄漏需与常规过拟合分开诊断。

解题路线

  1. 过拟合表现为对训练数据细节拟合强、对未见样本泛化差,先看按实体/时间正确切分的学习曲线与错误切片。
  2. 数据质量/覆盖、合理增强和泄漏审计优先;更多重复或错误数据不一定有效,增强也不能改变标签语义。
  3. 容量、weight decay、dropout、早停和预训练可各自减少有效自由度或改善表示。超参用验证集选择,最终测试集不用于反复调参。
  4. 深度学习还要核对train/eval差异、BN统计和推理预处理。训练loss低验证高并不自动证明某个正则缺失,也可能label/分布/实现不一致。
  5. 用单变量消融比较性能、稳定性与计算预算;损失gap下降而两边都更差可能是欠拟合。

手动走一遍

训练准确率99%、验证70%,先检查近重复/类别分布和真正独立split,再比较容量与正则;不能直接承诺加dropout提高到某值。增强裁掉唯一目标却保留原label会引入错误监督。

规模与取舍

正则可能增加训练成本或降低收敛速度;早停节省计算但验证频率与选择偏差需控制。报告多seed和重要切片。

易错点与追问

容易失分的边界

  • 训练/验证差距所有情形都归过拟合。
  • 只报加dropout。
  • 用测试集调超参。

继续深挖

  • 样本量学习曲线如何帮助决策?
  • 分布偏移下如何评估?
✓已复制微信号!