SoK: 大语言模型的隐私悖论：进展、隐私风险与缓解措施
密码学与安全
2025-06-23 v2 人机交互
摘要
大语言模型(LLM)是复杂的人工智能系统，使机器能够以显著的精确度生成类人文本。虽然LLM带来了显著的技术进步，但其利用从网络上大量抓取的用户数据以及广泛的用户交互数据进行训练的做法，带来了敏感信息泄露的风险。大多数现有综述聚焦于训练数据的隐私影响，但倾向于忽略来自用户交互和先进LLM能力的隐私风险。本文旨在填补这一空白，通过提供对LLM隐私的全面分析，将挑战分为四个主要领域：(i) LLM训练数据中的隐私问题，(ii) 与用户提示相关的隐私挑战，(iii) LLM生成输出中的隐私漏洞，以及(iv) LLM智能体涉及的隐私挑战。本文评估了针对所提出的隐私挑战的现有缓解机制的有效性与局限性，并指出了进一步研究的方向。
引用
@article{arxiv.2506.12699,
title = {SoK: The Privacy Paradox of Large Language Models: Advancements, Privacy Risks, and Mitigation},
author = {Yashothara Shanmugarasa and Ming Ding and M. A. P Chamikara and Thierry Rakotoarivelo},
journal= {arXiv preprint arXiv:2506.12699},
year = {2025}
}