通过海绵投毒实现的能量-延迟攻击
密码学与安全
2025-04-21 v5 计算机视觉与模式识别
机器学习
摘要
海绵样本是经优化的测试时输入，用于增加部署在硬件加速器上的深度网络的能耗和预测延迟。通过增加分类期间激活的神经元比例，这些攻击降低了网络激活模式的稀疏性，恶化了硬件加速器的性能。在本工作中，我们提出一种新颖的训练时攻击，称为海绵投毒（sponge poisoning），其旨在不影响分类准确率的情况下，恶化神经网络在任何测试输入上的能耗和预测延迟。为实施此攻击，我们假设攻击者仅能控制训练期间的少数模型更新——这是一种可能的场景，例如当模型训练外包给不可信第三方或通过联邦学习分布式进行时。我们在图像分类任务上的大量实验表明海绵投毒是有效的，并且微调被投毒模型以修复它们对用户而言代价高昂，凸显应对海绵投毒仍是一个开放问题。
引用
@article{arxiv.2203.08147,
title = {Energy-Latency Attacks via Sponge Poisoning},
author = {Antonio Emanuele Cinà and Ambra Demontis and Battista Biggio and Fabio Roli and Marcello Pelillo},
journal= {arXiv preprint arXiv:2203.08147},
year = {2025}
}
备注
Paper accepted at Information Sciences journal; 20 pages Keywords: energy-latency attacks, sponge attack, machine learning security, adversarial machine learning