SaliencyMix:一种用于更好正则化的显著性引导数据增强策略
机器学习
2021-07-28 v2 机器学习
摘要
先进的数据增强策略已被广泛研究以提升深度学习模型的泛化能力。区域丢弃是一类流行的方案,它通过随机移除图像区域引导模型关注判别性较弱的部分,从而改善正则化。然而,这种信息移除并不可取。另一方面,近期策略建议随机裁剪并混合训练图像中的图像块及其标签,以在增强图像中不含任何无意义像素的情况下享有区域丢弃的优势。我们认为,这种图像块的随机选取策略未必能代表对应对象的充分信息,从而依据该无信息图像块混合标签会使模型学习到非预期的特征表示。因此,我们提出 SaliencyMix,借助显著性图精心选取具有代表性的图像块,并将该指示性图像块与目标图像混合,进而引导模型学习更恰当的特征表示。SaliencyMix 在 ImageNet 分类上分别取得了 ResNet-50 与 ResNet-101 架构已知的 21.26% 与 20.09% 最佳 top-1 误差,并提升了模型对抗扰动的鲁棒性。此外,使用 SaliencyMix 训练的模型有助于改善目标检测性能。源代码见 https://github.com/SaliencyMix/SaliencyMix。
引用
@article{arxiv.2006.01791,
title = {SaliencyMix: A Saliency Guided Data Augmentation Strategy for Better Regularization},
author = {A. F. M. Shahab Uddin and Mst. Sirazam Monira and Wheemyung Shin and TaeChoong Chung and Sung-Ho Bae},
journal= {arXiv preprint arXiv:2006.01791},
year = {2021}
}
备注
12 pages, 5 figures, 5 tables