面向鲁棒动态域泛化的参数交换方法

不可知域偏移是模型在未知目标域上性能退化的主要原因，这带来了发展域泛化（DG）的迫切需求。近期DG的进展利用动态网络实现在未知目标域上的免训练自适应，称为动态域泛化（DDG），其弥补了具有固定权重的静态模型缺乏自适应的不足。动态网络的参数可解耦为静态和动态两部分，分别用于学习域不变和域特定特征。基于现有研究，本文试图从优化视角更彻底地解耦静态与动态分量，以推进DDG的极限。我们的主要考量是通过增强域特定信息，使静态分量更全面地学习域不变特征。因此，静态分量学习到的更全面的域不变特征可促使动态分量更专注于学习自适应域特定特征。为此，我们提出一种简单而有效的参数交换（PE）方法，扰动静态与动态分量之间的组合。我们利用来自扰动与非扰动前向传播的梯度联合优化模型，以隐式实现上述解耦。如此，两个分量能以互利方式优化，从而抵抗不可知域偏移并提升在未知目标域上的自适应能力。大量实验表明，PE可轻松插入现有动态网络以提升其泛化能力，且无需额外修饰。