增强输出多样性改善共轭梯度对抗攻击
机器学习
2024-08-09 v1 人工智能
摘要
深度神经网络对对抗样本脆弱，针对此背景的对抗攻击生成对抗样本的研究已广泛开展。现有研究表明，增加模型输出的多样性有助于提升攻击性能。本研究聚焦于受共轭梯度法启发且具有高多样化性能的 Auto Conjugate Gradient (ACG) 攻击。我们假设增加两个连续搜索点之间的距离将增强输出多样性。为验证该假设，我们提出了 Rescaling-ACG (ReACG)，它自动修改显著影响两个连续搜索点之间距离的两个分量，包括搜索方向和步长。ReACG 展现出比 ACG 更高的攻击性能，尤其对具有多个分类类别的 ImageNet 模型效果显著。实验结果表明，两个连续搜索点之间的距离增强了输出多样性，并可能有助于开发新的强效攻击。代码可在 \url{https://github.com/yamamura-k/ReACG} 获取。
引用
@article{arxiv.2408.03972,
title = {Enhancing Output Diversity Improves Conjugate Gradient-based Adversarial Attacks},
author = {Keiichiro Yamamura and Issa Oe and Hiroki Ishikura and Katsuki Fujisawa},
journal= {arXiv preprint arXiv:2408.03972},
year = {2024}
}
备注
ICPRAI2024