基于分数的对抗图像生成以评估鲁棒性
计算机视觉与模式识别
2025-03-05 v3 人工智能
机器学习
机器学习
摘要
大多数对抗攻击与防御聚焦于小 范数约束内的扰动。然而, 威胁模型无法涵盖所有相关的保持语义的扰动,因此鲁棒性评估的范围受限。在本工作中,我们提出基于分数的对抗生成(ScoreAG),一种利用基于分数的生成模型进展来生成无约束对抗样本的新框架,克服了 范数约束的局限。与传统方法不同,ScoreAG 在生成对抗样本时保持图像的核心语义,既可通过变换现有图像,也可完全从零合成新图像。我们进一步利用 ScoreAG 的生成能力净化图像,实证增强了分类器的鲁棒性。我们广泛的实证评估表明,ScoreAG 在多个基准上优于绝大多数最先进(state-of-the-art, SOTA)的攻击与防御。本工作凸显了研究受语义而非 范数约束限制的对抗样本的重要性。ScoreAG 是迈向更全面的鲁棒性评估的重要一步。
引用
@article{arxiv.2310.04285,
title = {Assessing Robustness via Score-Based Adversarial Image Generation},
author = {Marcel Kollovieh and Lukas Gosch and Marten Lienen and Yan Scholten and Leo Schwinn and Stephan Günnemann},
journal= {arXiv preprint arXiv:2310.04285},
year = {2025}
}