对感知类 AI 的海绵攻击：能耗-延迟漏洞及通过模型剪枝的防御
机器学习
2025-05-13 v1 密码学与安全
摘要
最近的研究表明，海绵攻击可以显著增加深度神经网络（DNN）的能耗和推理延迟。然而，既有工作主要聚焦于计算机视觉和自然语言处理任务，忽略了在资源受限设备上（如物联网环境中的感知类应用）轻量化 AI 模型的日益增长的使用。这些攻击对电池容量有限且对实时响应性至关重要的系统构成严重威胁，可能导致能源耗尽和延迟恶化。本文作出两大主要贡献：第一，本文首次系统性地探讨了针对感知类 AI 模型的能耗-延迟海绵攻击。以可穿戴式感知类 AI 为案例研究，展示海绵攻击通过增加能耗导致性能显著下降（加速电池耗尽），并延长推理延迟。第二，为缓解此类攻击，本文探讨了模型剪枝——一种广泛用于资源受限 AI 的压缩技术——作为潜在防御方法。实验表明，稀疏化显著提高了模型对海绵攻击的韧性。我们还量化了模型效率与攻击韧性之间的权衡，为部署在物联网环境中感知类 AI 系统的安全性提供了洞见。
引用
@article{arxiv.2505.06454,
title = {Sponge Attacks on Sensing AI: Energy-Latency Vulnerabilities and Defense via Model Pruning},
author = {Syed Mhamudul Hasan and Hussein Zangoti and Iraklis Anagnostopoulos and Abdur R. Shahid},
journal= {arXiv preprint arXiv:2505.06454},
year = {2025}
}