面向域泛化的直接效应风险最小化
机器学习
2023-03-17 v4 人工智能
摘要
我们研究分布外（o.o.d.）泛化问题，其中属性的虚假关联在训练与测试域间变化。这被称为关联偏移问题，并已引发对机器学习可靠性的担忧。本文将从因果推断中的直接与间接效应概念引入域泛化问题。我们认为，学习直接效应的模型能最小化关联偏移域上的最坏情况风险。为消除间接效应，我们的算法含两阶段：第一阶段，利用表示与类标签最小化域标签的预测误差，学习间接效应表示；第二阶段，在训练与验证阶段，通过将每个数据与另一具有相似间接效应表示但不同类标签的数据匹配，去除第一阶段学到的间接效应。我们的方法可与现有方法兼容并提升其在关联偏移数据集上的泛化性能。在 5 个关联偏移数据集与 DomainBed 基准上的实验验证了方法的有效性。
引用
@article{arxiv.2211.14594,
title = {Direct-Effect Risk Minimization for Domain Generalization},
author = {Yuhui Li and Zejia Wu and Chao Zhang and Hongyang Zhang},
journal= {arXiv preprint arXiv:2211.14594},
year = {2023}
}