面向任务的多目标优化生成对抗样本
机器学习
2023-06-05 v2 计算机视觉与模式识别
摘要
深度学习模型,即便是当前最先进的模型,也对对抗样本高度脆弱。对抗训练是提升模型鲁棒性最有效的方法之一。对抗训练成功的关键在于生成满足某些目标/目的且具多样性、合格的对抗样本(例如,寻找能最大化模型损失以同时攻击多个模型的对抗样本)。因此,多目标优化(MOO)是生成对抗样本以同时实现多个目标/目的的自然工具。然而,我们观察到,直接套用 MOO 倾向于平等地最大化所有目标/目的,而不关心某个目标/目的是否已经达成。这导致在已达成目标的任务上付出无用努力,而在未达成目标的任务上投入较少。本文中,在可显式定义任务目标达成的情形下,我们提出\emph{面向任务的 MOO}来解决该问题。我们的原则是仅维持已达成目标的任务,同时让优化器将更多努力用于改进未达成目标的任务。我们在多种对抗样本生成方案上对所提面向任务的 MOO 进行了全面实验。实验结果有力地证明了我们所提方法的优势。我们的代码见 \url{https://github.com/tuananhbui89/TAMOO}。
引用
@article{arxiv.2304.13229,
title = {Generating Adversarial Examples with Task Oriented Multi-Objective Optimization},
author = {Anh Bui and Trung Le and He Zhao and Quan Tran and Paul Montague and Dinh Phung},
journal= {arXiv preprint arXiv:2304.13229},
year = {2023}
}