云端可信AI代理
密码学与安全
2025-12-16 v2 人工智能
多智能体系统
摘要
由大型语言模型驱动的AI代理日益增多地部署为云端服务，能够自主访问敏感数据、调用外部工具并与其他代理交互。然而，这些代理运行在复杂的多方生态系统中，可能导致数据泄露、篡改或意外行为。现有的受保护虚拟机（CVM）仅提供按二进制文件的保护，无法为跨主体信任、加速器级隔离或受监督的代理行为提供保证。我们提出Omega系统，通过强制端到端隔离、建立跨所有贡献主体的可验证信任，并对每一次外部交互进行可监督的可追溯性溯源。Omega基于受保护虚拟机和受保护GPU，构建了可信代理平台，可在单个CVM内使用嵌套隔离托管多个代理。它还提供高效的多代理编排，通过差分信任建立跨主体信任，并提供一种政策规范与执行框架，治理数据访问、工具使用和代理间通信，以实现数据保护和合规监管。我们在AMD SEV-SNP和NVIDIA H100上实现了Omega，完整地在CVM-GPU之间安全地保护代理状态，并在实现高性能的同时，使云规模下的高密度、合规的多代理部署成为可能。
引用
@article{arxiv.2512.05951,
title = {Trusted AI Agents in the Cloud},
author = {Teofil Bodea and Masanori Misono and Julian Pritzi and Patrick Sabanic and Thore Sommer and Harshavardhan Unnibhavi and David Schall and Nuno Santos and Dimitrios Stavrakakis and Pramod Bhatotia},
journal= {arXiv preprint arXiv:2512.05951},
year = {2025}
}