关于对抗训练与 1 最近邻分类器
量子物理
2025-01-15 v2 机器学习
软件工程
摘要
用输入的微小扰动欺骗深度学习分类器的能力导致了对抗训练的发展，即在训练样本之外，还要最小化对抗样本带来的损失。虽然对抗训练提高了所学分类器的鲁棒性，但该过程计算成本高、对超参数敏感，且可能仍使分类器容易受到其他类型微小扰动的影响。在本文中，我们将对抗训练与简单的 1 最近邻（1NN）分类器的性能进行了比较。我们证明，在合理的假设下，1NN 分类器对训练图像的任意微小图像扰动都具有鲁棒性。在取自 CIFAR10、MNIST 和 Fashion-MNIST 的 135 个不同二元图像分类问题的实验中，我们发现 1NN 在平均对抗准确率方面优于 TRADES（一种强大的对抗训练算法）。在对取自当前对抗鲁棒性排行榜的 69 个鲁棒模型进行的额外实验中，我们发现 1NN 在抵抗与训练期间所用扰动仅略有不同的扰动方面优于几乎所有模型。总而言之，我们的结果表明，现代对抗训练方法仍不及简单的 1NN 分类器的鲁棒性。我们的代码可在 \url{https://github.com/amirhagai/On-Adversarial-Training-And-The-1-Nearest-Neighbor-Classifier} 找到 \keywords{对抗训练}
引用
@article{arxiv.2404.06314,
title = {Qiskit-Torch-Module: Fast Prototyping of Quantum Neural Networks},
author = {Nico Meyer and Christian Ufrecht and Maniraman Periyasamy and Axel Plinge and Christopher Mutschler and Daniel D. Scherer and Andreas Maier},
journal= {arXiv preprint arXiv:2404.06314},
year = {2025}
}
备注
Accepted to the IEEE International Conference on Quantum Computing and Engineering (QCE 2024), Montr\'eal, Qu\'ebec, Canada. 7 pages, 4 figures, 3 tables