用于域泛化与域适应的 MixStyle 神经网络
计算机视觉与模式识别
2023-09-18 v2 人工智能
机器学习
摘要
神经网络对具有域偏移的未见数据泛化不佳——这是机器学习和人工智能中的长期问题。为克服该问题，我们提出 MixStyle，一种简单即插即用、无参数的模块，可在无需收集更多数据或增加模型容量的前提下提升域泛化性能。MixStyle 的设计简单：它在训练时单次前向传播中混合两个随机实例的特征统计量。该思路基于近期风格迁移研究的发现，即特征统计量捕捉图像风格信息，而风格本质上定义了视觉域。因此，混合特征统计量可视为在特征空间中合成新域的高效数据增强方式。MixStyle 仅需几行代码即可实现，无需修改训练目标，并可适配多种学习范式，包括有监督域泛化、半监督域泛化和无监督域适应。我们的实验表明，MixStyle 能在包括图像识别、实例检索和强化学习在内的广泛任务中显著提升分布外泛化性能。
引用
@article{arxiv.2107.02053,
title = {MixStyle Neural Networks for Domain Generalization and Adaptation},
author = {Kaiyang Zhou and Yongxin Yang and Yu Qiao and Tao Xiang},
journal= {arXiv preprint arXiv:2107.02053},
year = {2023}
}
备注
Extension of https://openreview.net/forum?id=6xHJ37MVxxp. Code available at https://github.com/KaiyangZhou/mixstyle-release. To appear in IJCV