MLE / ML Systems · ML System Design

高质量Math Document筛选:结构、正确性与数据覆盖

从抓取文档中选训练候选,不能只按公式数量打分。

题目重点:从抓取文档中选训练候选,不能只按公式数量打分。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • 训练输入网页/PDF解析后的文档,目标数学训练数据;实际quality rubric、语言与模型未给。
  • 抓取/使用授权与内容来源需记录,OCR文本和真实数学正确性不同。

解题路线

  1. 保留source/version与raw文档,抽正文、公式/表格和章节结构,识别OCR断裂、重复模板、乱码与缺页。公式数量多可能是坏解析,不能直接视高质量。
  2. 定义quality维度:内容完整、数学可读、步骤正确、任务相关与难度/覆盖。人工审阅seed校准准则,模型/规则评分作筛选辅助,不假装自动可靠证明所有推导。
  3. 对可执行计算题可用符号/数值检查部分等式与答案,但通过局部校验不证明全文正确;定理证明、图形和上下文假设需不同审阅。
  4. 去除exact/near duplicate和train/eval污染,按来源/主题/语言/难度保留覆盖。只选容易评分的初等题会牺牲高阶数学,quality与diversity联合约束。
  5. 离线训练同token预算比较数据版本,评目标任务与旧能力,人工审核filter误杀/漏放。manifest绑定解析/筛选模型和来源,失败可回滚,不让生成分数循环成为唯一真值。

手动走一遍

含很多LaTeX但缺条件的题可能不可解;保留问题、约束、推导与答案关联,而不是只抽公式。OCR把−变+,格式看起来正常但算式错,需要内容验证和原图回查。

规模与取舍

清洗O(raw bytes),模型打分按tokens、人工审查按候选数。相似去重索引/符号验证独立成本;质量改善需固定预算与held-out数据支持。

易错点与追问

容易失分的边界

  • 公式密度当数学正确性。
  • 去重只看URL而同内容来自多个站。

继续深挖

  • 如何检查filter对难度/语言的偏差?
  • 训练效果提高但样本可读性评分下降,如何分析?
✓已复制微信号!