应对风险：基于 LLM 智能体的安全、隐私与伦理威胁综述
人工智能
2024-11-15 v1
摘要
随着大语言模型（LLM）的持续发展，基于 Transformer 的模型在众多自然语言处理（NLP）任务中取得突破性进展，催生了一系列以 LLM 为控制中枢的智能体。尽管 LLM 在各类任务中取得成功，但它们面临诸多安全与隐私威胁，这些威胁在智能体场景中变得更为严重。为提升基于 LLM 应用的可靠性，出现了一系列研究从不同视角评估和缓解这些风险。为帮助研究者全面理解各类风险，本综述收集并分析了这些智能体面临的不同威胁。为应对以往分类法在处理跨模块和跨阶段威胁时的挑战，我们提出了一种基于来源与影响的新型分类框架。此外，我们基于六个关键特征识别了基于 LLM 的智能体，在此基础上总结了当前研究进展并分析其局限。随后，我们选取四个代表性智能体作为案例研究，分析其在实际使用中可能面临的风险。最后，基于上述分析，我们分别从数据、方法论和政策视角提出未来研究方向。
引用
@article{arxiv.2411.09523,
title = {Navigating the Risks: A Survey of Security, Privacy, and Ethics Threats in LLM-Based Agents},
author = {Yuyou Gan and Yong Yang and Zhe Ma and Ping He and Rui Zeng and Yiming Wang and Qingming Li and Chunyi Zhou and Songze Li and Ting Wang and Yunjun Gao and Yingcai Wu and Shouling Ji},
journal= {arXiv preprint arXiv:2411.09523},
year = {2024}
}