SoK：复合 AI 威胁与对策的系统视角

企业中使用的大型语言模型（LLM）通常采用专有模型，并处理敏感的输入和数据。先前研究中识别出的广泛攻击向量——针对训练和推理中使用的各种软件和硬件组件——使得执行机密性和完整性策略极具挑战性。随着我们朝着构建集成多个大型语言模型（LLM）的复合 AI 推理管道迈进，攻击面显著扩大。攻击者现在关注 AI 算法以及与这些系统相关的软件和硬件组件。虽然当前的研究通常孤立地考察这些要素，但我们发现结合跨层攻击观察可以实现强大的端到端攻击，且对威胁模型的假设要求极低。鉴于每一层存在大量现有攻击，我们需要对每一层的不同攻击向量有整体和系统化的理解。本 SoK 讨论了适用于复合 AI 系统的不同软件和硬件攻击，并展示了如何结合多种攻击机制来减少孤立攻击所需的威胁模型假设。接下来，我们根据 Mitre Att&ck 框架对 ML 攻击进行系统化，以便基于威胁模型更好地定位每种攻击。最后，我们概述了软件和硬件层的现有对策，并讨论了全面防御策略的必要性，以实现复合 AI 系统的安全和高性能部署。