Applied Scientist · Phone ML Breadth

Amazon Statistics:P-value 是什么,它不告诉你什么?

条件于零模型的尾概率、统计量方向与效应大小,解释多重选择和低功效。

题目重点:条件于零模型的尾概率、统计量方向与效应大小,解释多重选择和低功效。

题意与假设

这道练习题保留了面经中值得训练的核心约束,并将需要澄清的条件单独列出。现场拿到变体时,先和面试官确认这些条件。

  • 先固定H0、采样/随机化模型、统计量T与单/双侧极端定义;没有这些就没有一个唯一p值。
  • 频率检验p不是Pr(H0|data),不提供真实面经实验p或商业显著收益。

解题路线

  1. p=在H0模型和设计成立条件下,得到观察统计量同样或更极端结果的概率;条件在模型而不是对H0本身的后验概率。
  2. α是事先规则的长期一类错误水平;p≤α可按该规则拒绝H0,但不把p当这一结论错的概率。离散检验p可保守,不需每种零模型都精确均匀。
  3. 显著性不等于效应大小/实用价值,报告效应估计、区间、样本与模型假设。大n可检出极小差,小n不显著可能功效不足,不证明等价。
  4. 挑指标/子群/停止时间后用单次固定p阈值会增加误报;完整报告选择流程,预注册或采用匹配的多重/序贯程序,不只显示最小p。
  5. 原模型若独立性/分组/缺失机制错,算术正确的p仍无法解释原业务;先核设计,再讨论选择检验。Bayesian posterior需另给prior与likelihood,不能把1−p直接代替。

手动走一遍

自拟10次独立公平硬币全正面:单侧P(至少10正)=1/1024;双侧按同样极端全正/全反为2/1024。不是“硬币公平概率0.00195”。观察方向之后临时改成单侧也不同于预先定义的检验。

规模与取舍

取决于统计量和校准:解析计算、数值分布、置换/模拟各有成本。p定义无固定运行大O;模拟还须报告Monte Carlo精度与次数。

易错点与追问

容易失分的边界

  • p等于H0为真概率。
  • 1−p是效果存在概率。
  • 显著就业务价值大。
  • 不显著证明完全相同。
  • 看完数据改单侧/子群。

继续深挖

  • 区间和p有什么对应条件?
  • 离散检验为何可能保守?
  • 复合H0怎样校准?
  • 多次看实验如何保持错误控制?

技术参考

✓已复制微信号!