生成最小化对抗扰动以测试目标检测模型：一种自适应多指标进化搜索方法
软件工程
2024-04-29 v1 人工智能
摘要
深度学习（DL）模型在计算机视觉任务中表现出色，但可能容易受到对抗样本的影响。本文介绍了 Triple-Metric EvoAttack (TM-EVO)，一种用于评估目标检测深度学习模型对抗攻击鲁棒性的高效算法。TM-EVO 利用多指标适应度函数来高效地引导进化搜索，以创建具有最小扰动的有效对抗测试输入。我们在广泛使用的目标检测深度学习模型 DETR 和 Faster R-CNN，以及开源数据集 COCO 和 KITTI 上评估了 TM-EVO。我们的研究结果表明，TM-EVO 优于最先进的 EvoAttack 基线，能够在保持效率的同时，生成噪声更小的对抗测试。
引用
@article{arxiv.2404.17020,
title = {Generating Minimalist Adversarial Perturbations to Test Object-Detection Models: An Adaptive Multi-Metric Evolutionary Search Approach},
author = {Cristopher McIntyre-Garcia and Adrien Heymans and Beril Borali and Won-Sook Lee and Shiva Nejati},
journal= {arXiv preprint arXiv:2404.17020},
year = {2024}
}