通过隐蔽通信信道窃取 AI 模型权重
密码学与安全
2025-10-02 v1 人工智能
摘要
AI 模型因其高昂的开发成本、提供的竞争优势以及包含专有技术的特性，常被视为有价值的知识产权。因此，AI 模型窃取攻击对 AI 模型提供者构成严重威胁。本文提出一种新颖的攻击，针对配备 AI 硬件加速器的无线设备。该攻击分为两个阶段。第一阶段，攻击者向受害者设备植入设计为 covertly leak model weights through a hidden communication channel 的硬件 Trojan（HT），而受害者在意识到的情况下并不知情。第二阶段，攻击者使用附近的无线设备来截获受害者在正常操作期间的传输帧，并逐步重建完整的权重矩阵。该攻击对 AI 模型架构和所使用的硬件加速器均不具针对性。我们通过包含四个不同类型和大小的 AI 模型的硬件演示来验证了该方法。我们详细描述了 HT 和隐蔽信道的设计，突出了其隐蔽性。此外，我们分析了比特错误率对接收的影响并提出了一种错误缓解技术。根据重建模型的准确率以及提取所需时间来评估该攻击的有效性。最后，我们探讨了潜在的防御机制。
引用
@article{arxiv.2510.00151,
title = {Stealing AI Model Weights Through Covert Communication Channels},
author = {Valentin Barbaza and Alan Rodrigo Diaz-Rizo and Hassan Aboushady and Spyridon Raptis and Haralampos-G. Stratigopoulos},
journal= {arXiv preprint arXiv:2510.00151},
year = {2025}
}