锚回归：异质数据遇上因果性
统计方法学
2020-05-12 v4
摘要
我们考虑在一个分布不同于训练数据的集合上从一组协变量预测响应变量的问题。若新分布中许多变量受到干预影响，或仅有部分变量受影响但扰动很强，则因果参数在预测精度方面是最优的。若训练与测试分布因偏移而不同，因果参数可能过于保守，从而在上述任务上表现不佳。这催生了锚回归，一种利用外生变量、通过修改最小二乘损失来考虑因果极大极小问题松弛的求解方法。该过程自然地在普通最小二乘与两阶段最小二乘的解之间提供插值。我们证明该估计量在针对线性类偏移的分布鲁棒性方面满足预测保证；即便工具变量假设被违背，这些保证仍然有效。若锚回归与最小二乘给出相同结果（锚稳定性），我们确立 OLS 参数在特定分布变化下是不变的。经验表明，锚回归可改善可复现性并抵御分布偏移。
引用
@article{arxiv.1801.06229,
title = {Anchor regression: heterogeneous data meets causality},
author = {Dominik Rothenhäusler and Nicolai Meinshausen and Peter Bühlmann and Jonas Peters},
journal= {arXiv preprint arXiv:1801.06229},
year = {2020}
}