大型语言模型的独特安全与隐私威胁：综合调查

随着人工智能的快速发展，大型语言模型（LLMs）在自然语言处理领域取得了显著进展。这些模型基于庞大数据集训练，展现出跨各种应用场景（包括聊天机器人和智能体）的强大语言理解与生成能力。然而，LLMs 在整个生命周期中暴露出多种隐私与安全问题，引发了学术界和产业界的广泛关注。此外，LLMs 所面临的风险与传统语言模型截然不同。鉴于现有调查缺乏对不同情景下独特威胁模型的清晰分类，本文强调了四个特定情境下与 LLMs 相关的独特隐私与安全威胁：预训练、微调、部署和基于 LLMs 的智能体。针对每种风险的特征，本综述阐述并分析了可能的对策。对攻击与防御情形的研究为开展更广泛的 LLM 应用提供了可行的研究方向。