将神经网络习得的因果效应与领域先验进行匹配
机器学习
2022-06-30 v4 人工智能
摘要
训练后的神经网络可解释为一个结构因果模型（SCM），提供改变输入变量对模型输出的影响。然而，若训练数据同时包含因果关系和相关关系，优化预测精度的模型未必能学到输入与输出变量间的真实因果关系。另一方面，专家用户通常从领域知识中掌握某些输入变量与输出之间因果关系的先验知识。因此，我们提出一种正则化方法，将神经网络习得的因果效应（包括直接因果效应和总因果效应）与领域先验对齐。我们证明该方法可推广至不同类型的领域先验，包括输入变量对输出因果效应的单调性，或出于公平性目的某变量对输出的零因果效应。我们在十二个基准数据集上的实验表明，该方法可在不牺牲精度的情况下，正则化神经网络模型以维持期望的因果效应。重要的是，我们还证明如此训练的模型具有鲁棒性，并在噪声输入上获得更高的精度。
引用
@article{arxiv.2111.12490,
title = {Matching Learned Causal Effects of Neural Networks with Domain Priors},
author = {Sai Srinivas Kancheti and Abbavaram Gowtham Reddy and Vineeth N Balasubramanian and Amit Sharma},
journal= {arXiv preprint arXiv:2111.12490},
year = {2022}
}
备注
Accepted at International Conference on Machine Learning (ICML'22)