野性模式重访：针对训练数据投毒的机器学习安全综述

机器学习的成功得益于计算能力以及大型训练数据集的日益可用。训练数据被用于学习新模型或更新现有模型，其假设是它足以代表测试时将遇到数据。这一假设受到投毒威胁的挑战，投毒是一种操纵训练数据以在测试时损害模型性能的攻击。尽管投毒在工业应用中已被认为是一种相关威胁，且迄今为止已提出多种不同的攻击与防御，但该领域的完整系统化和批判性回顾仍然缺失。在本综述中，我们提供了机器学习中投毒攻击与防御的全面系统化，回顾了过去 15 年该领域发表的 100 多篇论文。我们首先对当前的威胁模型和攻击进行分类，然后相应地组织现有防御。虽然我们主要关注计算机视觉应用，但我们认为我们的系统化也涵盖了针对其他数据模态的 SOTA 攻击与防御。最后，我们讨论了投毒研究的现有资源，并阐明了该研究领域当前的局限性与开放研究问题。