题目重点:MLE Set A 明确问 bias–variance tradeoff;用训练/验证曲线诊断,说明模型容量、正则与数据的取舍。
题意与假设
这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。
- 以监督学习和固定验证方案说明;误差先分可约的模型误差与噪声/标签误差,不把统计分解机械套到所有指标。
- 训练、验证、最终测试按实体与时间边界隔离;具体任务若有时间漂移,应采用时间切分。
解题路线
- 先定义:偏差是学习器在不同训练样本上的平均预测与目标之间的系统偏离;方差是训练样本变化引起的预测波动。模型复杂度提高常会降低前者、提高后者,但并非铁律。
- 画学习曲线并比较 train/validation:两者误差都高且接近,先检查任务/标签、特征和容量;train 很好而 validation 差,先检查泄漏、切分、正则、数据量及分布差异。
- 做单变量实验:锁定评估集,逐步改变容量、正则、特征或训练数据量,用交叉验证/时间回测比较均值与方差,最终只在 untouched test 上评估一次。
- 报告业务指标与切片表现,避免为了降低平均验证损失破坏高风险切片。
手动走一遍
训练示例:模型 A 的训练/验证错误率分别 18%/19%,模型 B 为 2%/17%。A 更像容量或特征不足;B 有明显泛化差距。下一步分别试更强特征/容量和正则/数据校验。数字仅演示诊断,不是题目数据。
规模与取舍
k 折验证约需 k 次训练;更复杂模型通常提高训练计算与样本需求,但实际成本取决于算法和数据规模,题目未给。
易错点与追问
容易失分的边界
- 把高验证误差一概归为过拟合。
- 在测试集上反复选择超参数。
- 忽略标签噪声和训练/服务分布差异。
- 把偏差/方差当作能直接从两条误差数值精确分解的量。
继续深挖
- 如果 train 和 validation 都很好,线上突然下降怎么办?
- 加数据何时比加正则有效?
- 时间序列场景如何避免随机切分泄漏?
