AI智能体面临威胁：安全挑战与未来路径综述
密码学与安全
2025-11-26 v2 人工智能
摘要
人工智能（AI）智能体是一种基于预定义目标和数据输入而自主执行任务或做出决策的软件实体。能够感知用户输入、进行推理和规划任务、并执行行动的AI智能体，在算法开发和任务性能方面取得了显著进展。然而，所面临的安全挑战仍处于探索不足且未解决的状态。本综述深入探讨了AI智能体面临的新兴安全威胁，将其归类为四个关键知识空白：多步骤用户输入的不可预测性、内部执行的复杂性、运行环境的可变性以及与不可信任外部实体的交互。通过系统性地审视这些威胁，本文突出了在保障AI智能体安全方面取得的进展以及现存的局限性。提供的见解旨在激发进一步的研究，以解决AI智能体相关的安全威胁，从而促进更稳健、更安全的AI智能体应用的发展。
引用
@article{arxiv.2406.02630,
title = {AI Agents Under Threat: A Survey of Key Security Challenges and Future Pathways},
author = {Zehang Deng and Yongjian Guo and Changzhou Han and Wanlun Ma and Junwu Xiong and Sheng Wen and Yang Xiang},
journal= {arXiv preprint arXiv:2406.02630},
year = {2025}
}
备注
Submitted to ACM Computing Survey