IPG：用于通用对抗性贴纸训练的增量补丁生成
计算机视觉与模式识别
2025-09-03 v1 人工智能
图像与视频处理
摘要
对抗性贴纸的出现对AI模型的鲁棒性构成了重大挑战，尤其是在计算机视觉任务中，如目标检测。在与传统对抗样本不同的是，这些贴纸针对图像的特定区域，从而导致AI模型功能失效。本文提出了增量补丁生成（IPG），一种能够比现有方法高效生成约11.1倍的对抗性贴纸的方法，同时保持相当的攻击性能。通过实验和消融研究（包括YOLO的特征分布可视化和对抗训练结果），证明了IPG的有效性，表明其产生的贴纸具有良好的普适性，能够有效覆盖更广泛的模型漏洞。此外，IPG生成的数据集可作为构建稳健模型的稳健知识基础，实现结构化表示、高级推理和主动防御在AI安全生态系统中的应用。本研究的发现表明，IPG在未来的对抗性贴纸防御以及自动驾驶、安防系统和医学影像等实际应用中具有相当大的潜力，在这些应用中，AI模型必须在动态且高风险的环境中对对抗攻击保持鲁棒性。
引用
@article{arxiv.2508.10946,
title = {IPG: Incremental Patch Generation for Generalized Adversarial Patch Training},
author = {Wonho Lee and Hyunsik Na and Jisu Lee and Daeseon Choi},
journal= {arXiv preprint arXiv:2508.10946},
year = {2025}
}