题目与场景
总体指标与重要子组相矛盾。需要判断分层构成失衡、混杂、选择规则或抽样误差是否造成反转,并在调整前先定义估计目标。
面试官考察什么
- 识别辛普森悖论是聚合后的关系反转,不是数学矛盾。
- 检查处理分配、分层平衡、分母和预注册分析方案。
- 区分描述性关联与因果处理效果。
作答前的澄清问题
- 哪些分层在处理前定义,哪些是事后发现?
- 分配是否随机,曝光和缺失结果率是否平衡?
- 决策针对总体、目标分层,还是标准化后的政策效果?
- 是否有稀疏单元、重复用户或被条件化的处理后变量?
30 秒回答框架
我会用分母重建总体与分层表,核验随机化和曝光平衡,找出改变分层权重的变量。先预先定义估计目标,再报告带不确定性的分层或标准化效果。若随机化失败就修复或重跑实验;若分层是真实的效果修饰,就不能压缩成一个标题数字。
分步深挖
1. 重算每个比例
每个分层展示处理人数、对照人数、转化数和转化率。聚合率是加权平均,不同权重会让总体比较反转,即使每个分层都偏向处理组。检查看板分母使用曝光、展示,还是所有分配用户。
2. 审计分配与曝光
在观察结果前比较处理概率和分层比例。检查发布规则、设备资格、地区、时间窗口、机器人和缺失事件。处理组集中在基线转化低的分层时,可能总体落后但分层都为正。
3. 定义估计目标
总体意向治疗效果回答全量发布问题;分层效果回答设备是否改变处理效果;标准化效果把分层估计重新加权到指定目标人群。先说清决策问题,没有通用的唯一调整。
4. 选择修复方法
随机化有效且单元充足时,报告带置信区间的分层或回归调整效果,并谨慎检验交互。分配失衡时修复随机化或重跑。观察数据要画因果图,只调整处理前混杂,并配合加权或匹配敏感性分析。不能为消除反转而调整处理后中介。
5. 沟通发布决定
在发布备忘录同时展示总体、分层和标准化估计、区间与样本量。目标估计量和风险容忍度支持时全量发布,否则按分层灰度、补充数据或暂停。记录分析方案,避免反复寻找支持结论的子组。
高质量示范回答
“我会先用处理和对照分母重算两类比例,核验分配、曝光、资格和缺失事件平衡。然后找出造成权重差异的分层,并明确要的是总体意向治疗效果还是分层效果。随机化可靠时报告带区间的分层和标准化估计并检查交互;失衡时修复或重跑实验。发布备忘录展示所有视角,避免处理后调整和事后挑选子组。”
常见误区
- 直接信总体看板 → 权重会反转信号 → 重算分层分子、分母和权重。
- 看到分层获胜就断言因果 → 分配或曝光可能有偏 → 先审计随机化和缺失结果。
- 调整所有变量 → 处理后偏差可能增大 → 只调整有依据的处理前混杂。
- 挑支持发布的结果 → 估计目标被悄悄改变 → 预先定义目标人群和分析方案。
追问与回答
辛普森悖论总是问题吗?
不一定。它说明总体问题与条件问题不同。总体结果可能适合发布决策,分层效果可能适合定向策略;关键是说清目标。
很小的分层怎么办?
展示不确定性,不要过度解读噪声反转。可以使用层级模型或预先定义的合并规则,并在分层承诺前收集更多观察。
分层变量是处理后变量怎么办?
不要在主要因果估计中对其条件化。可做描述性报告,或在明确假设下做中介分析;条件化可能产生碰撞点或中介偏差。