对抗性正交回归：用于因果推断的两种非线性回归方法
机器学习
2019-09-11 v1 机器学习
摘要
我们提出了两种非线性回归方法，分别针对加性噪声模型的对抗性正交回归和针对结构方程模型一般情况的对抗性正交结构方程模型。这两种方法都试图使回归残差与回归变量独立，同时对噪声分布不作任何假设。在这两种方法中，两个对抗网络被同时训练，其中回归网络输出预测值，损失网络估计互信息（在 AdOR 中）和 KL 散度（在 AdOSE 中）。这些方法可以被表述为极小极大双人博弈；在均衡状态下，AdOR 找到输入与输出之间的确定性映射并估计残差与输入之间的互信息，而 AdOSE 估计给定输入时输出的条件概率分布。所提出的方法可作为子程序来解决因果推断中的若干学习问题，例如因果方向确定（或更一般地，因果结构学习）和因果模型估计。合成和真实世界实验表明，所提出的方法相对于以往的解决方案具有显著的性能。
引用
@article{arxiv.1909.04454,
title = {Adversarial Orthogonal Regression: Two non-Linear Regressions for Causal Inference},
author = {M. Reza Heydari and Saber Salehkaleybar and Kun Zhang},
journal= {arXiv preprint arXiv:1909.04454},
year = {2019}
}