关于深度工具变量估计的探讨
统计理论
2020-05-01 v1 机器学习
机器学习
统计理论
摘要
内生性问题至关重要，因为许多经验应用可能受到解释变量遗漏、测量误差或同时性因果的影响。最近，\cite{hllt17} 提出了一种基于深度神经网络的“深度工具变量（IV）”框架以解决内生性，展现出优于现有方法的性能。本文旨在从理论上理解深度 IV 的经验成功。具体而言，我们考虑在线性工具变量模型中使用深度神经网络的两阶段估计量。通过对内生变量与工具变量之间约简型方程施加潜在结构假设，第一阶段估计量可自动捕捉该潜在结构，并以极小极大最优速率收敛到最优工具变量，该速率与工具变量的维数无关，从而缓解维度灾难。此外，与经典方法相比，由于第一阶段估计量收敛更快，第二阶段估计量具有{更小的（二阶）估计误差}，且对最优工具变量平滑性要求更弱。在所用深度神经网络的深度和宽度选择得当的条件下，我们进一步证明第二阶段估计量达到了半参数效率界。基于合成数据的模拟研究以及汽车市场数据的应用验证了我们的理论。
引用
@article{arxiv.2004.14954,
title = {On Deep Instrumental Variables Estimate},
author = {Ruiqi Liu and Zuofeng Shang and Guang Cheng},
journal= {arXiv preprint arXiv:2004.14954},
year = {2020}
}