题目重点：从检索、prompt、参数高效微调到全量训练，比较数据与资源。
题意与假设
这道练习题保留了面经中值得训练的核心约束，并将需要澄清的条件单独列出。现场拿到变体时，先和面试官确认这些条件。
- 任务/数据集/模型大小未给，训练合同以领域助手为例；不得把LoRA配置当面试已限定。
- 需要按业务目标评估，不承诺任何方法普遍优于其他方法。
解题路线
- 知识频繁更新或必须引用来源，优先可授权检索；格式/风格/行为稳定性缺口可用指令数据微调，先与prompt基线比较。
- 参数高效更新减少可训练参数/优化器状态，但前向仍运行基础模型；全量微调表达容量更大且训练/回归代价高。数据覆盖、质量和泄漏通常比单个rank更关键。
- 用时间/用户独立切分eval，覆盖域内性能、域外遗忘、权限与不确定回答；灰度、版本和rollback。微调不解决动态文档权限，也不能把客户隐私记忆当检索。
手动走一遍
产品问的是昨晚变化的订单政策，RAG更易更新并引用；若模型总输出错误JSON schema，构造行为数据并微调可更贴目标。预算只够少量GPU，不先报rank8，而先估模型激活、序列长度、batch和训练token量，再选择可执行方案。
规模与取舍
容量估算包括参数/梯度/优化器/激活与训练tokens；推理成本仍随基础模型和输出量变化。
易错点与追问
容易失分的边界
- 把“少参数”当“推理一定快”；把训练loss低当线上收益。
- 评估集从同文档随机切chunk会泄漏近重复。
继续深挖
- RAG与fine-tuning组合怎样避免重复解决同一问题？
- 发现旧任务退化时如何定位数据、学习率与能力冲突？
