GPTs 安全漏洞的实证研究
密码学与安全
2025-12-02 v1 软件工程
摘要
凭借多种工具和知识，基于 OpenAI 大型语言模型的定制 AI 代理——GPTs，在写作、研究和编程等诸多领域展现出巨大的潜力。如今，GPTs 的数量已达三百万，涉及的专业领域范围日益多样化。然而，鉴于这些大型语言模型代理应用共享一致的框架，潜在的系统性安全漏洞可能存在且未被充分探讨。为填补这一空白，我们进行了关于 GPTs 安全漏洞的实证研究。基于对大型语言模型安全的先行研究，我们首先从平台用户的角度，对不同系统组件进行全面的攻击面分析。随后，我们设计了一个系统性、多维度的攻击套件，明确目标为信息泄露和工具滥用，从而具体体现 GPT 基于系统所面临的安全漏洞。最后，我们相应提出了针对上述安全漏洞的防御机制。通过提高人们对这些漏洞的认识，并提供对其影响的关键见解，本研究旨在促进 GPTs 的安全负责任应用，同时为开发保护用户和系统免受恶意攻击的健壮防御机制作出贡献。
引用
@article{arxiv.2512.00136,
title = {An Empirical Study on the Security Vulnerabilities of GPTs},
author = {Tong Wu and Weibin Wu and Zibin Zheng},
journal= {arXiv preprint arXiv:2512.00136},
year = {2025}
}