在对抗性偏移与干预性偏移下的学习
机器学习
2021-03-31 v1 机器学习
摘要
机器学习模型常在一个分布的数据上训练而部署于其他分布上。因此设计对分布偏移鲁棒的模型变得重要。现有工作大多聚焦于针对对抗性偏移或干预性偏移进行优化。对抗方法因考虑数据联合分布的偏移,在表示合理偏移上缺乏表达力。干预方法允许更高表达力但提供对无界偏移的鲁棒性,导致过于保守的模型。本工作中,我们结合两种方法的互补优势,提出一种新公式 RISe,用于设计对处于对抗性偏移与干预性偏移交集上的一组分布偏移鲁棒的模型。我们采用分布鲁棒优化框架,在有监督与强化学习设定下优化所得目标。基于医疗健康合成与真实世界数据集的大量实验证明了所提方法的有效性。
引用
@article{arxiv.2103.15933,
title = {Learning Under Adversarial and Interventional Shifts},
author = {Harvineet Singh and Shalmali Joshi and Finale Doshi-Velez and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2103.15933},
year = {2021}
}
备注
19 pages including 5 pages appendix, 6 figures, 2 tables. Preliminary version presented at Causal Discovery & Causality-Inspired Machine Learning Workshop 2020