基于深度工具变量网络的反事实预测
应用统计
2017-01-02 v1 机器学习
机器学习
摘要
我们正处于人工智能使用与能力显著崛起的中期。这一增长很大程度上由深度学习架构的成功推动：这类模型通过多层潜在表示将观测值映射到输出。这些深度学习算法是非结构化预测的有效工具，并且可以组合进AI系统以解决复杂的自动化推理问题。本文提供了一种组合ML算法以在存在工具变量（即条件独立于响应变量的处理随机化来源）的情况下求解因果效应的方案。我们展示了一个灵活的IV设定可分解为两个可用深度神经网络解决的预测任务：用于处理预测的第一阶段网络，以及其损失函数涉及对条件处理分布进行积分的第二阶段网络。该深度IV框架对用于训练的随机梯度下降例程施加了一些特定结构，但它足够通用，使我们能够利用现成的ML能力并避免大量的算法定制。我们概述了如何获得样本外因果验证以避免过拟合。我们还引入了贝叶斯与频率学推断方案：前者通过对dropout训练的新颖适应实现，后者通过数据分割例程实现。
引用
@article{arxiv.1612.09596,
title = {Counterfactual Prediction with Deep Instrumental Variables Networks},
author = {Jason Hartford and Greg Lewis and Kevin Leyton-Brown and Matt Taddy},
journal= {arXiv preprint arXiv:1612.09596},
year = {2017}
}