面向基于频率解释的鲁棒 CNN
机器学习
2020-05-08 v1 计算机视觉与模式识别
机器学习
摘要
当前针对透明卷积神经网络（CNN）的解释技术主要侧重于在可被人理解输入特征与模型预测之间建立联系，忽视了输入的另一种表示，即频率分量分解。在本工作中，我们分析了输入数据集中频率分量的分布与模型从数据中学到的推理过程之间的联系。我们进一步提供了关于不同频率分量对模型预测贡献的量化分析。我们表明，模型对微小失真的脆弱性是由于模型依赖高频特征（对抗性（黑盒与白盒）攻击者的目标特征）来进行预测的结果。我们进一步表明，如果模型在低频分量与真实标签之间建立更强的关联，则模型更鲁棒，这也解释了为何对抗训练模型对微小失真更为鲁棒。
引用
@article{arxiv.2005.03141,
title = {Towards Frequency-Based Explanation for Robust CNN},
author = {Zifan Wang and Yilin Yang and Ankit Shrivastava and Varun Rawal and Zihao Ding},
journal= {arXiv preprint arXiv:2005.03141},
year = {2020}
}