超越完全中毒：基于部分扰动的有效可用性攻击
高能物理 - 理论
2025-03-06 v2
摘要
大规模公开数据集用于训练机器学习模型的广泛使用引发了数据滥用方面的重大担忧。可用性攻击已成为数据拥有者通过设计不可察觉的扰动来保护数据、在纳入训练数据集后使模型性能下降的手段。然而，现有的可用性攻击在只能对部分数据进行扰动时效果不佳。为解决这一挑战，我们提出一种新颖的可用性攻击方法，称为参数匹配攻击 (Parameter Matching Attack, PMA)。PMA 是首个在仅能对部分数据进行扰动时仍能导致30%以上性能下降的可用性攻击。PMA 通过优化扰动，使得当模型在干净数据与扰动数据混合训练时，最终得到的模型将趋近于旨在性能较差的模型。实验结果表明，在四个数据集上，PMA 超越了现有方法，在训练数据的部分被扰动时，实现了显著的模型性能降解。我们的代码已包含在补充材料中。
引用
@article{arxiv.2407.02436,
title = {Massless representation of massive superfields and tree amplitudes with the pure spinor formalism},
author = {Sitender Pratap Kashyap and Carlos R. Mafra and Mritunjay Verma and Luis Ypanaqué},
journal= {arXiv preprint arXiv:2407.02436},
year = {2025}
}
备注
36pp, v2: published version