稀疏且可迁移的通用奇异向量攻击
机器学习
2024-01-26 v1 密码学与安全
计算机视觉与模式识别
摘要
对抗攻击和模型脆弱性领域的研究是现代机器学习的基本方向之一。最近的研究揭示了脆弱性现象，理解其背后的机制对于改善神经网络特性和可解释性至关重要。在本文中，我们提出了一种新颖的稀疏通用白盒对抗攻击方法。我们的方法基于截断幂迭代，为雅可比矩阵隐藏层的 (p,q)-奇异向量提供稀疏性。我们使用 ImageNet 基准验证子集，在各种设置下分析了所提出的方法，取得了与密集基线相当的结果，在仅破坏 5% 像素并利用 256 个样本进行扰动拟合的情况下，实现了超过 50% 的愚弄率。我们还表明，我们的算法允许更高的攻击强度，而不影响人类解决任务的能力。此外，我们研究了所构建的扰动在不同模型间具有高度可迁移性，而不会显著降低愚弄率。我们的发现证明了最先进模型对稀疏攻击的脆弱性，并强调了开发鲁棒机器学习系统的重要性。
引用
@article{arxiv.2401.14031,
title = {Sparse and Transferable Universal Singular Vectors Attack},
author = {Kseniia Kuvshinova and Olga Tsymboi and Ivan Oseledets},
journal= {arXiv preprint arXiv:2401.14031},
year = {2024}
}