大型语言模型（LLM）安全与隐私综述：好的、坏的和丑陋的
密码学与安全
2024-03-22 v3 人工智能
摘要
大型语言模型（LLM），如 ChatGPT 和 Bard，彻底改变了自然语言理解与生成。它们具备深度的语言理解能力、类人文本生成能力、上下文感知能力以及强大的问题解决能力，使其在各个领域（如搜索引擎、客户支持、翻译）中具有不可估量的价值。与此同时，LLM 也在安全社区中获得了关注，揭示了安全漏洞，并展示了其在安全相关任务中的潜力。本文探讨了 LLM 与安全和隐私的交叉点。具体而言，我们研究了 LLM 如何对安全和隐私产生积极影响、其使用相关的潜在风险和威胁，以及 LLM 内在的漏洞。通过全面的文献回顾，本文将相关论文分为“好的”（有益的 LLM 应用）、“坏的”（攻击性应用）和“丑陋的”（LLM 的漏洞及其防御）。我们得出了一些有趣的发现。例如，事实证明 LLM 能够增强代码安全（代码漏洞检测）和数据隐私（数据机密性保护），表现优于传统方法。然而，由于其类人的推理能力，它们也可能被用于各种攻击（特别是用户级攻击）。我们指出了需要进一步研究的领域。例如，关于模型和参数提取攻击的研究有限且通常是理论性的，受到 LLM 参数规模和机密性的阻碍。安全指令微调作为近期的发展，需要更多的探索。我们希望我们的工作能够阐明 LLM 在增强和危及网络安全两方面的潜力。
引用
@article{arxiv.2312.02003,
title = {A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly},
author = {Yifan Yao and Jinhao Duan and Kaidi Xu and Yuanfang Cai and Zhibo Sun and Yue Zhang},
journal= {arXiv preprint arXiv:2312.02003},
year = {2024}
}