基于显著性的训练能否为图像分类中的深度神经网络带来鲁棒性？
计算机视觉与模式识别
2023-06-30 v1 人工智能
摘要
深度神经网络是理解复杂模式和进行决策的有力工具。然而，其黑盒特性阻碍了对内部机理的完整理解。尽管在线显著性引导训练方法试图在模型输出中高亮显著特征以缓解该问题，但视觉上可解释的特征是否与模型针对对抗样本的鲁棒性一致仍不明确。本文中，我们研究显著性训练模型对对抗样本方法的脆弱性。模型使用在线显著性引导训练方法进行训练，并针对流行的对抗样本算法进行评估。我们量化了鲁棒性并得出结论：尽管模型输出具有良好解释的可视化，显著模型在对抗样本攻击下仍表现出较低的性能。
引用
@article{arxiv.2306.16581,
title = {Does Saliency-Based Training bring Robustness for Deep Neural Networks in Image Classification?},
author = {Ali Karkehabadi},
journal= {arXiv preprint arXiv:2306.16581},
year = {2023}
}