协变量偏移的福与祸：对抗学习动态、方向性收敛与均衡

协变量分布偏移和对抗扰动给常规统计学习框架带来了鲁棒性挑战：测试协变量分布的轻微偏移会显著影响基于训练分布学到的统计模型性能。当发生外推时，模型性能通常会恶化：即协变量偏移到一个训练分布稀疏的区域，自然而言，所学模型信息很少。出于鲁棒性和正则化考虑，对抗扰动技术被提出作为补救；然而，针对给定所学模型，对抗协变量偏移将聚焦于何种外推区域，需仔细研究。本文在无限维设定下精确刻画了回归与分类中的外推区域。我们在序贯博弈框架中研究对抗协变量偏移对后续均衡学习（贝叶斯最优模型）的影响。我们利用对抗学习博弈的动态，揭示了协变量偏移对均衡学习和实验设计的奇特效应。特别地，我们建立了两个展现独特现象的方向性收敛结果：(1) 回归中的福音，对抗协变量偏移以指数速率收敛到最优实验设计，从而实现快速的后续学习；(2) 分类中的祸根，对抗协变量偏移以次二次速率收敛到最难的实验设计，困住后续学习。