走向灰度:理解并改进不可学样本的路径
计算机视觉与模式识别
2021-11-29 v1 密码学与安全
摘要
近期研究表明,可施加难以察觉的扰动来构造不可学样本(ULEs),即其内容无法在训练过程中用于改进分类器的图像。本文中,我们揭示了研究者为理解 ULEs 并改进其原始形式(ULEOs)所应遵循的路径。本文作出四点贡献。第一,我们表明 ULEOs 利用了颜色,因此其影响可通过简单的灰度预滤波缓解,而无需借助对抗训练。第二,我们提出 ULEOs 的一种扩展,称为 ULEO-GrayAugs,其在优化过程中利用灰度知识与数据增强,迫使生成的 ULEs 远离通道级颜色扰动。第三,我们表明使用多层感知机(MLPs)生成的 ULEOs 在复杂卷积神经网络(CNN)分类器情形下依然有效,说明 CNN 对 ULEs 存在特定脆弱性。第四,我们证明当分类器在 ULEOs 上训练时,对抗训练可防止在干净图像与对抗图像上测得的准确率下降。综上,我们的贡献代表了不可学样本领域的显著进展,同时也揭示了其行为的若干重要特征,这些特征需被更好理解方能实现进一步改进。
引用
@article{arxiv.2111.13244,
title = {Going Grayscale: The Road to Understanding and Improving Unlearnable Examples},
author = {Zhuoran Liu and Zhengyu Zhao and Alex Kolmus and Tijn Berns and Twan van Laarhoven and Tom Heskes and Martha Larson},
journal= {arXiv preprint arXiv:2111.13244},
year = {2021}
}