GPT 应用初探：格局与漏洞
密码学与安全
2024-11-28 v3 计算与语言
摘要
继 OpenAI 推出 GPTs 之后，GPT 应用的激增催生了专用的大语言模型 (LLM) 应用商店。然而，鉴于其刚刚问世，人们对这一新生态系统的理解尚不充分。为填补这一空白，本文呈现了一项针对新兴 LLM 应用生态系统的演变、格局和漏洞的首次全面纵向（5 个月）研究，重点关注两个 GPT 应用商店：\textit{GPTStore.AI} 和官方的 \textit{OpenAI GPT Store}。具体而言，我们开发了两种自动化工具和一种三级配置提取策略，以高效收集这两个商店中所有 GPT 应用的元数据（即名称、创作者、描述等）和用户反馈，以及前 10,000 个热门应用的配置（即系统提示词、知识文件和 API）。我们的广泛分析揭示：(1) 用户对 GPT 应用的热情持续上升，而创作者的兴趣在 GPTs 推出三个月内趋于平稳；(2) 由于未能保护 GPT 应用配置的现象普遍存在，近 90\% 的系统提示词可被轻易获取，导致应用间出现大量的抄袭和重复。我们的研究结果突显了应用商店、创作者和用户加强 LLM 应用生态系统的必要性。
引用
@article{arxiv.2402.15105,
title = {A First Look at GPT Apps: Landscape and Vulnerability},
author = {Zejun Zhang and Li Zhang and Xin Yuan and Anlan Zhang and Mengwei Xu and Feng Qian},
journal= {arXiv preprint arXiv:2402.15105},
year = {2024}
}