使用多种自监督任务提升模型鲁棒性
计算机视觉与模式识别
2022-04-11 v1 机器学习
摘要
深度网络在计算机视觉任务上取得了最先进的性能,但它们在人类难以察觉的对抗攻击下会失效。在本文中,我们提出一种新颖的防御方法,可利用来自多种自监督任务的内在结构对输入进行动态自适应。通过同时使用多种自监督任务,我们的防御避免了将自适应图像过拟合到某一个特定自监督任务,并且与单一自监督任务方法相比恢复了图像中更多的内在结构。与最先进的单一任务自监督防御相比,我们的方法进一步显著提升了鲁棒性与干净准确率。我们的工作是首个将多种自监督任务与鲁棒性联系起来的研究,并表明我们可以利用视觉数据中更多的内在信号来实现更好的鲁棒性。
引用
@article{arxiv.2204.03714,
title = {Using Multiple Self-Supervised Tasks Improves Model Robustness},
author = {Matthew Lawhon and Chengzhi Mao and Junfeng Yang},
journal= {arXiv preprint arXiv:2204.03714},
year = {2022}
}
备注
Accepted to ICLR 2022 Workshop on PAIR^2Struct: Privacy, Accountability, Interpretability, Robustness, Reasoning on Structured Data