对抗鲁棒模型未必迁移更好：从正则化视角看域可迁移性的充分条件

机器学习（ML）的鲁棒性与域泛化从根本上相关：它们分别关注对抗与自然设定下的数据分布偏移。一方面，近期研究表明更鲁棒（对抗训练）的模型具有更好泛化性；另一方面，对其基本联系缺乏理论理解。本文考虑范数正则化与数据增强（DA）等不同因素，探索正则化与域可迁移性之间的关系。我们提出一个通用理论框架，证明涉及模型函数类正则化的因素是相对域可迁移性的充分条件。我们的分析意味着“鲁棒性”对可迁移性既非必要也非充分；相反，正则化是理解域可迁移性更基础的视角。接着我们讨论流行的 DA 协议（包括对抗训练），并展示在特定条件下它们可视为函数类正则化，从而改善泛化。我们进行了大量实验验证理论发现，并给出若干鲁棒性与泛化在不同数据集上负相关的反例。