关于聚合防御抵御数据投毒攻击的实用性考察

数据获取途径的增多为深度学习带来了机遇与风险，因为人们可以利用恶意训练样本操纵深度学习模型的行为。此类攻击被称为数据投毒。近期针对数据投毒的防御策略进展凸显了聚合方案在获得 SOTA 的认证投毒鲁棒性结果方面的有效性。然而，这些方法的实际影响仍不明确。本文聚焦于 Deep Partition Aggregation（深度划分聚合）这一代表性聚合防御，并评估其实用性方面，包括效率、性能与鲁棒性。在评估中，我们使用缩放至 64×64 分辨率的 ImageNet，以实现比以往更大规模的评估。首先，我们展示了一种简单而实用的扩展基模型的方法，提升了聚合防御的训练与推理效率。其次，我们提供了支持数据复杂度比（即数据集规模与样本复杂度之比）作为在保持精度前提下可部署的最大基模型数量的实用估计的经验证据。最后但同样重要的是，我们指出了聚合防御如何通过投毒过拟合现象在经验上提升投毒鲁棒性，该现象是聚合经验投毒鲁棒性的关键潜在机制。总体而言，我们的发现为缓解数据投毒威胁的聚合防御实际部署提供了有价值的见解。