基于对数归因匹配的一致性正则化用于域泛化
机器学习
2024-06-13 v2
摘要
域泛化（DG）旨在训练在域偏移下具有良好泛化能力的模型。以往 DG 研究多集中于单源或多源设定。本文考虑第三种较少被关注的设定：训练域配备有一组共享相同语义信息的示例对。此类语义共享（SS）对可通过数据增强生成，并用于一致性正则化（CR）。我们给出理论表明 CR 有助于 DG，并提出一种称为对数归因匹配（LAM）的新型 CR 方法。我们在五个 DG 基准与四个预训练模型上开展实验，SS 对由通用与针对性数据增强方法创建。LAM 优于具代表性的单源/多源 DG 方法以及各类利用 SS 对的 CR 方法。本项目的代码与数据见 https://github.com/Gaohan123/LAM
引用
@article{arxiv.2305.07888,
title = {Consistency Regularization for Domain Generalization with Logit Attribution Matching},
author = {Han Gao and Kaican Li and Weiyan Xie and Zhi Lin and Yongxiang Huang and Luning Wang and Caleb Chen Cao and Nevin L. Zhang},
journal= {arXiv preprint arXiv:2305.07888},
year = {2024}
}
备注
19 pages, 12 figures. Accepted by Uncertainty in Artificial Intelligence (UAI) 2024