决策规则对因果干预鲁棒性的可证明保证
人工智能
2021-05-20 v1 机器学习
摘要
决策规则对数据生成过程偏移的鲁棒性对于决策系统的成功部署至关重要。此类偏移可视为对因果图的干预，其捕捉数据生成过程（可能因自然原因或 adversary 行为所致）的（可能是假想的）变化。我们考虑因果贝叶斯网络，并正式定义干预鲁棒性问题——一种基于模型的决策函数鲁棒性新概念，用以衡量相对于表示参数和/或因果影响变化的一组干预的最坏情况性能。通过依赖贝叶斯网络作为算术电路的可处理表示，我们提供了高效算法来计算干预鲁棒性概率的有保证上下界。实验结果表明，这些方法为一系列实际网络给出了有用且可解释的界，为可证明因果鲁棒的决策系统铺平了道路。
引用
@article{arxiv.2105.09108,
title = {Provable Guarantees on the Robustness of Decision Rules to Causal Interventions},
author = {Benjie Wang and Clare Lyle and Marta Kwiatkowska},
journal= {arXiv preprint arXiv:2105.09108},
year = {2021}
}
备注
21 pages (8+13 Appendix). To be published in IJCAI 2021