当 GPT 泄露秘密：GPT 中知识文件泄露的全面评估
密码学与安全
2025-06-03 v1 机器学习
摘要
知识文件已被广泛应用于大型语言模型（LLM）智能体（如 GPTs）中，以提高响应质量。然而，对知识文件潜在泄露的担忧日益加剧。现有研究表明，对抗性提示可以诱导 GPTs 泄露知识文件内容。然而，鉴于 GPTs 中客户端、服务器和数据库之间复杂的数据流，是否存在其他泄露途径仍不确定。本文中，我们利用受数据安全态势管理（DSPM）启发的新颖工作流，对知识文件泄露进行了全面的风险评估。通过分析 651,022 条 GPT 元数据、11,820 个数据流和 1,466 个响应，我们识别出五个泄露途径：元数据、GPT 初始化、检索、沙盒执行环境和提示。这些途径使攻击者能够提取知识文件中的敏感数据，如标题、内容、类型和大小。值得注意的是，内置工具 Code Interpreter 的激活会导致权限提升漏洞，使攻击者能够以 95.95% 的成功率直接下载原始知识文件。进一步分析显示，28.80% 的泄露文件受版权保护，包括主要出版商的数字副本和某上市公司的内部资料。最后，我们为 GPT 构建者和平台提供商提供了可操作的解决方案，以保护 GPT 数据供应链。
引用
@article{arxiv.2506.00197,
title = {When GPT Spills the Tea: Comprehensive Assessment of Knowledge File Leakage in GPTs},
author = {Xinyue Shen and Yun Shen and Michael Backes and Yang Zhang},
journal= {arXiv preprint arXiv:2506.00197},
year = {2025}
}