RieszNet 与 ForestRiesz：基于神经网络与随机森林的自动去偏机器学习

许多感兴趣的因果与政策效应由高维或非参数回归函数的线性泛函定义。对目标量的 $\sqrt{n}$-一致且渐近正态的估计需要去偏，以减小正则化和/或模型选择对目标量的影响。去偏通常通过对泛函的插件估计量添加修正项来实现，这带来了半参数有效性、双重稳健性和 Neyman 正交性等性质。我们基于使用神经网络与随机森林自动学习线性泛函的 Riesz 表示，实现了一种自动去偏过程。我们的方法仅依赖于对线性泛函的黑盒评估预言机访问，且不需要其解析形式的知识。我们提出了一种多任务神经网络去偏方法，采用随机梯度下降最小化组合的 Riesz 表示元与回归损失，同时为两个函数共享表示层。我们还提出了一种随机森林方法，其学习 Riesz 函数的局部线性表示。尽管我们的方法适用于任意泛函，但我们在实验中发现，对于平均处理效应泛函的情形，其表现优于 Shi 等人（2019）最先进的基于神经网络的算法。我们还在连续处理的估计平均边际效应问题上评估了我们的方法，使用了汽油价格变化对汽油需求的半合成数据。