题目重点:从抓取文档中选训练候选,不能只按公式数量打分。
题意与假设
这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。
- 训练输入网页/PDF解析后的文档,目标数学训练数据;实际quality rubric、语言与模型未给。
- 抓取/使用授权与内容来源需记录,OCR文本和真实数学正确性不同。
解题路线
- 保留source/version与raw文档,抽正文、公式/表格和章节结构,识别OCR断裂、重复模板、乱码与缺页。公式数量多可能是坏解析,不能直接视高质量。
- 定义quality维度:内容完整、数学可读、步骤正确、任务相关与难度/覆盖。人工审阅seed校准准则,模型/规则评分作筛选辅助,不假装自动可靠证明所有推导。
- 对可执行计算题可用符号/数值检查部分等式与答案,但通过局部校验不证明全文正确;定理证明、图形和上下文假设需不同审阅。
- 去除exact/near duplicate和train/eval污染,按来源/主题/语言/难度保留覆盖。只选容易评分的初等题会牺牲高阶数学,quality与diversity联合约束。
- 离线训练同token预算比较数据版本,评目标任务与旧能力,人工审核filter误杀/漏放。manifest绑定解析/筛选模型和来源,失败可回滚,不让生成分数循环成为唯一真值。
手动走一遍
含很多LaTeX但缺条件的题可能不可解;保留问题、约束、推导与答案关联,而不是只抽公式。OCR把−变+,格式看起来正常但算式错,需要内容验证和原图回查。
规模与取舍
清洗O(raw bytes),模型打分按tokens、人工审查按候选数。相似去重索引/符号验证独立成本;质量改善需固定预算与held-out数据支持。
易错点与追问
容易失分的边界
- 公式密度当数学正确性。
- 去重只看URL而同内容来自多个站。
继续深挖
- 如何检查filter对难度/语言的偏差?
- 训练效果提高但样本可读性评分下降,如何分析?
