因果模型适应速度的分析
机器学习
2021-02-26 v2 机器学习
摘要
考虑由对未知结构因果模型 的未知干预所生成的一组数据集。最近,Bengio 等人 (2020) 猜想在所有候选模型中, 是从一个数据集适应到另一个数据集最快的,并给出了有前景的实验。确实,直观上 有更少的机制需要适应,但该论证不完整。我们的贡献是对该假设更彻底的分析。我们研究因果效应 SCM 的适应速度。利用随机优化的收敛速率,我们论证适应速度的一个相关代理是干预后参数空间中的距离。将此代理应用于类别化和正态因果效应模型,我们展示两个结果。当干预在原因变量上时,具有正确因果方向的 SCM 以一个大因子占优。当干预在结果变量上时,我们刻画了相对适应速度。令人惊讶地,我们发现反因果模型占优的情况,证伪了初始假设。复现实验的代码可在 https://github.com/remilepriol/causal-adaptation-speed 获取。
引用
@article{arxiv.2005.09136,
title = {An Analysis of the Adaptation Speed of Causal Models},
author = {Rémi Le Priol and Reza Babanezhad Harikandeh and Yoshua Bengio and Simon Lacoste-Julien},
journal= {arXiv preprint arXiv:2005.09136},
year = {2021}
}
备注
Published at AISTATS 2021. 10 pages main articles, 19 pages supplement, 10 figures