深度学习表征在教学样本与对抗样本间的相似性研究
计算机视觉与模式识别
2024-09-18 v2 机器学习
图像与视频处理
神经元与认知
摘要
深度神经网络（DNNs）日益广泛的应用催生了并行研究：设计利用成功误分类获利的对抗样本。然而，并非所有对抗样本都为恶意目的而构造。例如，真实世界系统常因仪器间存在物理、时间与采样差异而包含变异性。现实中的对抗样本可能无意中对准确预测建模产生有害影响。反之，自然发生的图像特征协方差可用于教学目的。在此，我们研究了针对 MRI 采集变异性特征的教学与对抗条件下神经影像分类的深度学习表征稳定性。我们表明表征相似性与性能随输入空间中对抗样本的频率而变化。
引用
@article{arxiv.2002.06816,
title = {On the Similarity of Deep Learning Representations Across Didactic and Adversarial Examples},
author = {Pk Douglas and Farzad Vasheghani Farahani},
journal= {arXiv preprint arXiv:2002.06816},
year = {2024}
}
备注
2 figures