利用性能计数器在运行时检测 AI 加速器中的对抗攻击
密码学与安全
2025-03-11 v1 人工智能
机器学习
摘要
AI 技术的快速普及引发了若干重大安全隐患，包括威胁 AI 应用机密性与完整性的对抗扰动风险。保护 AI 硬件免受滥用和各类安全威胁是一项极具挑战性的任务。为应对这一挑战，我们提出了 SAMURAI，一种用于防范 AI 硬件恶意使用及其抵御攻击能力的新型框架。SAMURAI 引入了 AI 性能计数器（APC）来跟踪 AI 模型的动态行为，并结合了片上机器学习（ML）分析引擎 TANTO（通过轨迹观察进行训练异常检测）。APC 记录不同 AI 操作的低级硬件事件的运行时特征。随后，TANTO 处理 APC 记录的汇总信息，以高效识别潜在的安全违规并确保 AI 的安全、负责任使用。SAMURAI 能够实时检测安全威胁与滥用，而无需依赖需要模型集成的传统软件解决方案。实验结果表明，SAMURAI 在检测对抗攻击方面达到了高达 97% 的准确率，且在多种 AI 模型上仅产生中等开销，显著优于传统的软件方法。它增强了安全性与合规性，为保护 AI 免受新兴威胁提供了全面的解决方案。
引用
@article{arxiv.2503.07568,
title = {Runtime Detection of Adversarial Attacks in AI Accelerators Using Performance Counters},
author = {Habibur Rahaman and Atri Chatterjee and Swarup Bhunia},
journal= {arXiv preprint arXiv:2503.07568},
year = {2025}
}
备注
7 pages, 8 figures