多样化选择的均衡方向：基于算术元学习的领域泛化
机器学习
2025-03-26 v1 人工智能
机器学习
摘要
领域泛化旨在应对训练源域与未见目标域之间 statistical disparities 的引发的分布迁移。广泛使用的一阶元学习算法通过 gradient matching theory 实现强大的领域泛化性能，旨在在源域之间建立 balanced parameters 以减少对特定领域的过拟合。然而，我们的分析揭示，实际存在多种路径可实现 gradient matching，当前方法仅代表其中一种可能的路径。这些方法实际上忽略了一个关键因素，即 balanced parameters 应接近每个源域最优参数的 centroid。为此，我们提出一种简单而有效的算术元学习方法，利用算术加权梯度。这一方法在坚持 gradient matching 原则的同时，通过估计 domain-specific optimal parameters 之间的 centroid 来实现更精确的平衡。实验结果验证了该策略的有效性。
引用
@article{arxiv.2503.18987,
title = {Balanced Direction from Multifarious Choices: Arithmetic Meta-Learning for Domain Generalization},
author = {Xiran Wang and Jian Zhang and Lei Qi and Yinghuan Shi},
journal= {arXiv preprint arXiv:2503.18987},
year = {2025}
}