代表性面试主题

数据科学面试:如何发现并解决辛普森悖论?

数据中等
Offer.cc 编辑团队发布 更新

题干

实验显示处理组转化率 7%、对照组 8%,但处理组在每个设备分层都获胜。你如何调查后再决定是否发布?

题目与场景

总体指标与重要子组相矛盾。需要判断分层构成失衡、混杂、选择规则或抽样误差是否造成反转,并在调整前先定义估计目标。

面试官考察什么

  • 识别辛普森悖论是聚合后的关系反转,不是数学矛盾。
  • 检查处理分配、分层平衡、分母和预注册分析方案。
  • 区分描述性关联与因果处理效果。

作答前的澄清问题

  • 哪些分层在处理前定义,哪些是事后发现?
  • 分配是否随机,曝光和缺失结果率是否平衡?
  • 决策针对总体、目标分层,还是标准化后的政策效果?
  • 是否有稀疏单元、重复用户或被条件化的处理后变量?

30 秒回答框架

我会用分母重建总体与分层表,核验随机化和曝光平衡,找出改变分层权重的变量。先预先定义估计目标,再报告带不确定性的分层或标准化效果。若随机化失败就修复或重跑实验;若分层是真实的效果修饰,就不能压缩成一个标题数字。

分步深挖

1. 重算每个比例

每个分层展示处理人数、对照人数、转化数和转化率。聚合率是加权平均,不同权重会让总体比较反转,即使每个分层都偏向处理组。检查看板分母使用曝光、展示,还是所有分配用户。

2. 审计分配与曝光

在观察结果前比较处理概率和分层比例。检查发布规则、设备资格、地区、时间窗口、机器人和缺失事件。处理组集中在基线转化低的分层时,可能总体落后但分层都为正。

3. 定义估计目标

总体意向治疗效果回答全量发布问题;分层效果回答设备是否改变处理效果;标准化效果把分层估计重新加权到指定目标人群。先说清决策问题,没有通用的唯一调整。

4. 选择修复方法

随机化有效且单元充足时,报告带置信区间的分层或回归调整效果,并谨慎检验交互。分配失衡时修复随机化或重跑。观察数据要画因果图,只调整处理前混杂,并配合加权或匹配敏感性分析。不能为消除反转而调整处理后中介。

5. 沟通发布决定

在发布备忘录同时展示总体、分层和标准化估计、区间与样本量。目标估计量和风险容忍度支持时全量发布,否则按分层灰度、补充数据或暂停。记录分析方案,避免反复寻找支持结论的子组。

高质量示范回答

“我会先用处理和对照分母重算两类比例,核验分配、曝光、资格和缺失事件平衡。然后找出造成权重差异的分层,并明确要的是总体意向治疗效果还是分层效果。随机化可靠时报告带区间的分层和标准化估计并检查交互;失衡时修复或重跑实验。发布备忘录展示所有视角,避免处理后调整和事后挑选子组。”

常见误区

  • 直接信总体看板 → 权重会反转信号 → 重算分层分子、分母和权重。
  • 看到分层获胜就断言因果 → 分配或曝光可能有偏 → 先审计随机化和缺失结果。
  • 调整所有变量 → 处理后偏差可能增大 → 只调整有依据的处理前混杂。
  • 挑支持发布的结果 → 估计目标被悄悄改变 → 预先定义目标人群和分析方案。

追问与回答

辛普森悖论总是问题吗?

不一定。它说明总体问题与条件问题不同。总体结果可能适合发布决策,分层效果可能适合定向策略;关键是说清目标。

很小的分层怎么办?

展示不确定性,不要过度解读噪声反转。可以使用层级模型或预先定义的合并规则,并在分层承诺前收集更多观察。

分层变量是处理后变量怎么办?

不要在主要因果估计中对其条件化。可做描述性报告,或在明确假设下做中介分析;条件化可能产生碰撞点或中介偏差。

公开来源

同类题目