题目重点：MLE 技术轮问已部署 fraud model API 达不到 <50ms 要求时怎么办；先厘清分位数与端到端范围，再处理特征、推理和依赖瓶颈。
题意与假设
这道练习题保留了面经中值得训练的核心约束，并将需要澄清的条件单独列出。现场拿到变体时，先和面试官确认这些条件。
- 50ms 是候选系统延迟目标，需确认从请求进入到响应发出还是仅模型推理，以及是 p99/其他分位。
- 风险判断对授权可能位于同步路径，任何加速不能无声牺牲关键欺诈/误拒指标；故障时放行/拒绝策略由业务风险所有者决定。
- 可先测分段耗时和流量分布，不在无证据时直接换模型或加缓存。
解题路线
- 核目标口径与现状：请求 p50/p95/p99、峰值 QPS、超时率、冷启动/热路径、各特征可用性；拿 trace 把网络、序列化、特征查询、模型推理、后处理分段。
- 若主耗时为特征：把稳定且允许缓存的特征预计算/同地域存储，批量读取替代多次串行 RPC，保护特征时间戳与一致性；若为模型：profile 模型、量化/蒸馏/更轻模型并离线和线上比较风险质量。
- 若主耗时为排队：按峰值扩容、限制过大批处理、预热实例、优化连接池/线程；并发与资源隔离要防长尾。
- 定义 50ms 预算表并在 shadow/灰度环境下回放真实流量，比较 p99、欺诈检出、误拒、校准和服务成本；不把平均延迟降低当达标。
- 若无法同时满足质量和 50ms，与产品/风险方选择两阶段决策、降级规则或调整 SLA，明确同步路径返回和异步复核的适用场景。
手动走一遍
训练测量：p99=82ms，特征 RPC 串行花 55ms、推理 8ms、其余 19ms；优先将独立特征并行批量读，目标将该段压到 20ms，再压测总 p99 是否 <50ms。题目没有这些数字；它们仅示例如何分预算。
规模与取舍
端到端延迟包括排队+依赖+推理，串行段求和、并行段取关键路径；缓存内存与命中率/特征新鲜度有关，模型替换的质量成本须用真实数据验证。题目没有容量数据，不能给确定机器数。
易错点与追问
容易失分的边界
- 只说加缓存/加机器，不先定位。
- 把平均延迟降到 50ms 就声称 p99 达标。
- 缓存实时 fraud 特征造成陈旧风险而不设有效期。
- 换轻模型只看速度不看欺诈漏检/误拒。
- 同步路径失败时的策略默认为放行却没风险批准。
继续深挖
- 特征服务偶发超时如何隔离？
- 模型推理在 CPU/GPU 哪种更快，如何测？
- 不同交易风险等级能否走不同模型？
- 怎样验证缓存不会降低欺诈质量？
