一种新的对抗样本类型
机器学习
2025-10-23 v1 人工智能
图形学
摘要
大多数机器学习模型都容易受到对抗样本的攻击，这对这些模型的安全性构成了隐患。对抗样本是通过对数据集中的示例施加细微但刻意的极端修改来制造的，从而导致模型输出与原始示例不同的答案。本文提出了以完全相反方式形成对抗样本的方法，这些样本与原始示例显著不同，但仍产生相同的结果。我们提出了一套新的算法来生成此类对抗样本，包括负迭代快速梯度符号方法（NI-FGSM）和负迭代快速梯度方法（NI-FGM），以及它们的动量变体：负动量迭代快速梯度符号方法（NMI-FGSM）和负动量迭代快速梯度方法（NMI-FGM）。通过这些方法生成的对抗样本可用于在特定情况下对机器学习系统进行攻击。此外，我们的结果表明，对抗样本并不仅仅分布在数据集示例的邻近区域，而是广泛分布在整个样本空间中。
引用
@article{arxiv.2510.19347,
title = {A New Type of Adversarial Examples},
author = {Xingyang Nie and Guojie Xiao and Su Pan and Biao Wang and Huilin Ge and Tao Fang},
journal= {arXiv preprint arXiv:2510.19347},
year = {2025}
}