MLE / Research Scientist · ML Coding / Design

TikTok VLM 项目深挖:结构、数据、训练与延迟证据

用一张计算流程解释视觉语言模型,逐项回答端到端、reasoning时间与已知限制。

题目重点:用一张计算流程解释视觉语言模型,逐项回答端到端、reasoning时间与已知限制。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • 回答基于真实项目;训练示例仅作提纲,不编造数据集、贡献、延迟或提升比例。

解题路线

  1. 先画image/video→视觉encoder→projector→语言模型→输出,说明视觉token数、维度匹配和连接方式。若用cross attention,与直接拼token方案分开。
  2. 讲数据来源、授权、类别/语言分布、近重复和标注质量;训练split按实体/时间隔离,说明你实际负责哪一环。
  3. 端到端是否包括视觉encoder、projector与LLM,哪些冻结、哪些adapter;目标、optimizer、batch、序列长度与显存预算都能沿计算图说明。
  4. reasoning时间拆预处理、视觉编码、prefill、逐tokendecode和网络,不用单次最好结果代表线上。测P50/P95、不同输入尺寸和输出长度。
  5. 限制用具体失败切片,例如小字OCR、时间顺序、罕见对象、幻觉;改进给可检验实验,并说明数据和算力成本。

手动走一遍

“视频模型慢”拆成帧数过多导致视觉token增长、prefill变长;先测分段采帧是否减少预算同时保留动作关键帧。没有做端到端训练时如实说明冻结encoder,不能把只训练projector称全模型训练。

规模与取舍

视觉token与文本token总长T改变attention成本,decode长度影响总延迟;报告实际batch与硬件环境,不给凭空毫秒数。

易错点与追问

容易失分的边界

  • 列一串模型名却说不清连接。
  • 训练数据分布答“各种都有”。
  • 把研究潜在改进当已完成成果。

继续深挖

  • 怎样设计失败切片实验?
  • 怎么证明延迟优化没有牺牲关键场景质量?
✓已复制微信号!