开放式 AI 生态系统中自定义 GPT 安全漏洞的大规模实证分析
密码学与安全
2025-05-14 v1 人工智能
计算与语言
机器学习
摘要
数以百万计的用户利用生成式预训练变换器 (GPT) 语言模型，这些语言模型由领先的模型提供商开发，用于完成广泛的任务。为支持增强的用户交互和定制化，众多平台（例如 OpenAI）现已允许开发者通过专门的存储库或应用商店创建和发布定制模型实例，称为自定义 GPT。这些自定义 GPT 使用户能够浏览并与针对特定需求设计的专业应用程序进行交互。然而，随着自定义 GPT 采用的不断增长，针对其安全漏洞的关注也日益加剧。现有研究在这些漏洞方面主要是理论性的，往往缺乏对相关风险进行的经验性、大规模且具有统计严谨性的评估。本研究分析了 14,904 个自定义 GPT，以评估其对七类可被利用威胁（例如基于角色扮演的攻击、系统提示泄露、网络钓鱼内容生成和恶意代码合成）的脆弱性，涵盖 OpenAI 市场中的各种类别和流行度层级。我们引入一种多指标排名系统来检查自定义 GPT 的流行程度与其相关安全风险之间的关系。我们的发现表明，超过 95% 的自定义 GPT 缺乏 adequate 安全保护。最常见的漏洞包括基于角色扮演的漏洞 (96.51%)、系统提示泄露 (92.20%) 和网络钓鱼 (91.22%)。此外，我们进一步展示，OpenAI 的基础模型本身存在安全弱点，这些弱点往往在自定义 GPT 中被继承或放大。这些结果凸显了有迫不及地需要增强安全措施和更严格的内容监管，以确保基于 GPT 的应用程序安全部署。
引用
@article{arxiv.2505.08148,
title = {A Large-Scale Empirical Analysis of Custom GPTs' Vulnerabilities in the OpenAI Ecosystem},
author = {Sunday Oyinlola Ogundoyin and Muhammad Ikram and Hassan Jameel Asghar and Benjamin Zi Hao Zhao and Dali Kaafar},
journal= {arXiv preprint arXiv:2505.08148},
year = {2025}
}