论 LLM App Store 的(不)安全性
密码学与安全
2024-07-30 v2 人工智能
摘要
LLM App Store 迎来了快速增长，导致大量定制 LLM App 的涌现。然而，这一扩张引发了安全顾虑。本研究提出了一套三层关切框架来识别 LLM App 的潜在安全风险，即具有滥用潜力的 LLM App、具有恶意意图的 LLM App 以及存在可被利用漏洞的 LLM App。在五个月内，我们从六大主要应用商店收集了 786,036 个 LLM App：GPT Store、FlowGPT、Poe、Coze、Cici 和 Character.AI。我们的研究集成了静态和动态分析、开发了大规模有毒词汇字典（即 ToxicDict），其中包含超过 31,783 条目，并开发了自动监控工具来识别和缓解威胁。我们发现 15,146 个 App 拥有误导性描述，1,366 个 App 在其隐私政策允许之外收集敏感个人信息，且 15,996 个 App 生成有害内容，如仇恨言论、自残、极端主义等。此外，我们评估了 LLM App 促进恶意活动的潜力，发现 616 个 App 可用于恶意软件生成、网络钓鱼等。我们的发现凸显了为 LLM App 建立健全监管框架和加强执法机制的紧迫性。
关键词
引用
@article{arxiv.2407.08422,
title = {On the (In)Security of LLM App Stores},
author = {Xinyi Hou and Yanjie Zhao and Haoyu Wang},
journal= {arXiv preprint arXiv:2407.08422},
year = {2024}
}