关于可迁移性与加性噪声输入变换的评论
机器学习
2022-06-22 v1 人工智能
密码学与安全
摘要
对抗攻击已验证了神经网络脆弱性的存在。通过在良性样本上添加微小扰动，对抗攻击成功生成导致深度学习模型误分类的对抗样本。更重要的是，由一个特定模型生成的对抗样本也能在不经修改的情况下欺骗其他模型。我们将这种现象称为“可迁移性”。本文通过数学证明修正后的优化能产生更具可迁移性的对抗样本，分析了可迁移性与加性噪声输入变换之间的关系。
引用
@article{arxiv.2206.09075,
title = {Comment on Transferability and Input Transformation with Additive Noise},
author = {Hoki Kim and Jinseong Park and Jaewook Lee},
journal= {arXiv preprint arXiv:2206.09075},
year = {2022}
}