基于神经网络预测的归一化增广逆概率加权方法
统计方法学
2022-02-09 v2 应用统计
统计计算
机器学习
摘要
作为因果参数的平均处理效应 (ATE) 的估计分两步进行：第一步，对处理分配和结果进行建模以纳入潜在的混杂因素；第二步，将预测值代入 ATE 估计量，例如增广逆概率加权 (AIPW) 估计量。由于担心混杂因素与处理分配和结果之间存在非线性或未知关系，人们开始关注应用非参数方法，例如机器学习 (ML) 算法。一些文献提出使用两个独立的神经网络 (NN)，其中除了 NN 优化中的随机梯度下降 (SGD) 外，对网络参数没有施加任何正则化。我们的模拟表明，如果不使用正则化，AIPW 估计量会受到严重影响。我们提出了 AIPW 的归一化形式（称为 nAIPW），这在某些情况下可能有所帮助。可以证明，nAIPW 具有与 AIPW 相同的性质，即双重稳健性和正交性。此外，如果第一步算法收敛速度足够快，在正则条件下，nAIPW 将是渐近正态的。我们还比较了在神经网络上施加小到中等程度的 L1 正则化时，AIPW 和 nAIPW 在偏差和方差方面的表现。
引用
@article{arxiv.2108.01768,
title = {Normalized Augmented Inverse Probability Weighting with Neural Network Predictions},
author = {Mehdi Rostami and Olli Saarela},
journal= {arXiv preprint arXiv:2108.01768},
year = {2022}
}