自挑战提升跨域泛化能力
计算机视觉与模式识别
2020-07-08 v1 机器学习
摘要
卷积神经网络（CNN）通过激活与标签相关的主导特征来进行图像分类。当训练数据与测试数据分布相似时，其主导特征相似，通常能在测试数据上获得不错的表现。然而在测试来自不同分布的样本时，性能未达预期，这导致了跨域图像分类中的挑战。我们引入一种简单的训练启发式方法——表示自挑战（RSC），显著提升了 CNN 对域外数据的泛化能力。RSC 迭代地挑战（丢弃）训练数据上激活的主导特征，并迫使网络激活其余与标签相关的特征。该过程似乎能在无需新域先验知识、无需学习额外网络参数的情况下，激活适用于域外数据的特征表示。我们给出了 RSC 提升跨域泛化的理论性质与条件。实验证实了我们的 RSC 方法简单、有效且与架构无关的特性。
引用
@article{arxiv.2007.02454,
title = {Self-Challenging Improves Cross-Domain Generalization},
author = {Zeyi Huang and Haohan Wang and Eric P. Xing and Dong Huang},
journal= {arXiv preprint arXiv:2007.02454},
year = {2020}
}
备注
to appear at ECCV2020 as an oral paper