保护设备端 AI 推理：攻击与防御机制的系统综述
密码学与安全
2026-05-29 v1
摘要
面向边缘和移动设备的安全人工智能 (AI) 和机器学习 (ML) 的需求，增加了保护这些系统架构免受安全和隐私威胁的必要性。随着越来越多的预训练 AI 模型被用于移动平台进行客户端推理，关于模型盗窃/提取、AI 模型对抗攻击以及数据泄露的风险担忧日益增加。因此，提出了各种防御机制来针对这些威胁进行保护。包括受信任执行环境 (TEEs)、同态加密、混淆和差分隐私等。然而，当前的调查 largely focus on edge intelligence，这包括分布式训练，从而忽略了针对设备端 AI 推理的特定的安全和隐私问题。到目前为止，本文是首个针对设备端推理的威胁及其对应防御机制的全面综述。我们的结果表明，攻击和防御文献是不平衡的：约有四分之一的调查攻击论文聚焦于知识产权 (IP) 攻击，而半数的防御解决方案则针对同一问题。更重要的是，一些攻击类别没有与之对应的防御论文，例如占攻击文献约三分之一的对抗攻击。这一已知攻击与可用缓解措施之间的不对称，凸显了保护设备端 AI 推理的明确未来研究机会。
引用
@article{arxiv.2605.29450,
title = {Protecting On-Device AI Inference: A Systematic Review of Attacks and Defence Mechanisms},
author = {Zisis Tsiatsikas and Alexandros Fakis and Georgios Karopoulos and Vasileios Kouliaridis and Marios Anagnostopoulos},
journal= {arXiv preprint arXiv:2605.29450},
year = {2026}
}