对抗机器学习中的攻击：基于生命周期视角的系统性综述

对抗机器学习（AML）研究机器学习中的对抗现象，即可能做出与人类不一致或意外的预测。最近已发展出一些范式来探索发生在机器学习系统不同阶段的这种对抗现象，例如发生在预训练、训练中和推理阶段的后门攻击；发生在后训练、部署和推理阶段的权重攻击；发生在推理阶段的对抗攻击。然而，尽管这些对抗范式有着共同的目标，但它们的发展几乎是独立的，目前仍缺乏对AML的整体图景。在这项工作中，我们旨在为AML社区提供一个统一的视角，以系统性地回顾该领域的整体进展。我们首先给出AML的一般定义，然后提出一个统一的数学框架来涵盖现有的攻击范式。根据所提出的统一框架，我们构建了一个完整的分类法，以系统性地对每个范式的现有代表性方法进行分类和回顾。此外，利用这个统一框架，很容易厘清不同攻击范式之间的联系与区别，这可能会启发未来的研究者开发更先进的攻击范式。最后，为便于查看所构建的分类法及对抗机器学习相关文献，我们进一步提供了一个网站，即\url{http://adversarial-ml.com}，其中的分类法和文献将持续更新。