中文

增广平衡权重作为一种线性回归

统计方法学 2024-06-07 v3 机器学习 计量经济学 机器学习

摘要

我们给出了增广平衡权重(亦称自动去偏机器学习,AutoDML)的一种新刻画。这些流行的双重稳健或去偏机器学习估计量将结果建模与平衡权重相结合——平衡权重直接实现协变量平衡,而非估计并求逆倾向得分。当结果模型与权重模型在某个(可能为无穷的)基上均为线性时,我们证明该增广估计量等价于一个单一的线性模型,其系数由原结果模型的系数与在同一数据上非惩罚普通最小二乘(OLS)拟合的系数组合而成。我们发现,在特定正则化参数选择下,增广估计量常退化为单独的 OLS 估计量;例如在对 Lalonde 1986 数据集的再分析中即出现此情况。随后我们将这些结果推广至特定的结果与权重模型选择。我们首先证明,对结果与权重模型均使用(核)岭回归的增广估计量等价于单一的、欠光滑(核)岭回归。这在有限样本中数值成立,并为欠光滑与渐近收敛速率的新分析奠定基础。当权重模型改为 lasso 惩罚回归时,我们给出特殊情形的闭式表达并证明一种“双重选择”性质。我们的框架打开了这类日益流行的估计量的黑箱,弥合了现有关于欠光滑与双重稳健估计量半参数效率结果之间的鸿沟,并为增广平衡权重的表现提供了新见解。

关键词

引用

@article{arxiv.2304.14545,
  title  = {Augmented balancing weights as linear regression},
  author = {David Bruns-Smith and Oliver Dukes and Avi Feller and Elizabeth L. Ogburn},
  journal= {arXiv preprint arXiv:2304.14545},
  year   = {2024}
}