Applied Scientist · Statistics Application / ML Breadth

Amazon Statistics:多维两样本整体分布检验,30 对 30 如何回答?

把用户特征和图像分布归入同一两样本问题,区分均值检验、MMD、分类器检验与低功效结论。

题目重点:把用户特征和图像分布归入同一两样本问题,区分均值检验、MMD、分类器检验与低功效结论。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • H0:P=Q是联合分布相等,样本独立、抽样机制可比;若按同一用户/机构成组则以用户/机构为置换单位。
  • 特征定义、单位、缺失与采集时间可比。固定嵌入是对所选表示的分布检验,不等于证明原始图片分布相同。
  • 30/30样本对高维弱差异可能功效很低,未拒绝不能得出两群体完全相同。题目未明确维度、原数据或显著性水平,不编造数值p。

解题路线

  1. 先确认问题是均值还是整个联合分布。逐特征t检验只针对均值且需多重比较控制;即使所有边缘相同,相关结构仍可不同,不能答完t-test就宣称整体无差异。
  2. 固定核的MMD训练方案:MMDu²=组内X非对角kernel均值+组内Y非对角kernel均值−2组间kernel均值。每组至少2项;无偏估计可略为负值,不直接当负距离错误删掉。
  3. 用置换标签建立零分布,保持组大小;B次随机置换可用p=(1+#置换统计≥观察统计)/(B+1),至少1/(B+1)。核带宽可按不看标签的合并距离规则固定;若利用标签调核/表示,须独立数据或把完整选择过程重跑入置换。
  4. 图像可冻结适合任务的embedding后同样检验;或训练标签为来源A/B的分类器,在独立held-out评估。仅训练集接近100%可能过拟合,chance-level也可能模型太弱或样本不足,不等价分布相同。
  5. 分类器方案的标准化/特征选择/调参只在训练折,报告held-out表现与校准方案;若置换涉及训练集标签,要完整重训练,不复用观察标签训练好的判别器直接算零分布。无需先训练GAN生成器才能检验两组来源。
  6. 最后报告效应、p与功效限制,查看分层/数据质量定位差异。描述性KL/JSD需密度估计/离散化,不由一个非零divergence直接得到显著性;高维60样本密度估计尤其不稳。

手动走一遍

示例P仅取(-1,-1)/(1,1),Q仅取(-1,1)/(1,-1),各点等概率:每一维边缘都±1且均值0,但P正相关、Q负相关,联合分布不同。只检各维均值会漏。对真实30/30数据先确认样本单位,再固定统计量和置换规则,不能凭组名选择检验答案。

规模与取舍

N=60时预计算核矩阵O(N²D)时间/O(N²)空间,B次朴素置换统计O(BN²);图像嵌入成本另计。大规模可分块/近似核但统计校准需保持一致;样本少并不由更多置换补出缺失功效。

易错点与追问

容易失分的边界

  • 未拒绝H0就说同分布。
  • 看标签选最佳特征再按固定特征置换。
  • 训练判别器准确率当检验。
  • 每个边缘相同推出联合相同。
  • 把模型肿瘤概率的一维分布代替整张图片分布。

继续深挖

  • 数据有重复用户怎样置换?
  • 多个核/子群探索后怎样控制选择偏差?
  • 差异来自采集设备还是人群怎样区分?
  • 检验不显著怎样做下一批样本规划?

技术参考

✓已复制微信号!