对抗性墨迹：面向深度学习的分量式后向误差攻击
人工智能
2023-06-06 v1 数值分析
数值分析
摘要
深度神经网络在许多分类任务中能够达到最先进的性能。然而，众所周知它们易受对抗攻击——即输入上的微小扰动导致分类改变。我们从后向误差与条件数的视角探讨此问题，这些概念在数值分析中已被证明十分有用。为此，我们基于 Beuzeville 等人（2021）的工作展开。具体而言，我们开发了一类使用分量式相对扰动的新攻击算法。此类攻击在手写文档或印刷文本情形下高度相关，例如签名、邮编、日期或数值量的分类可仅通过改变墨迹浓度而非背景来被篡改。这使得扰动后的图像肉眼看来十分自然。因此，此类“对抗性墨迹”攻击揭示了一种可能对安全造成严重影响的弱点。我们在真实数据上展示了新攻击，并与现有算法进行对比。我们还研究了使用分量式条件数量化脆弱性。
引用
@article{arxiv.2306.02918,
title = {Adversarial Ink: Componentwise Backward Error Attacks on Deep Learning},
author = {Lucas Beerens and Desmond J. Higham},
journal= {arXiv preprint arXiv:2306.02918},
year = {2023}
}