LLM 的非法用途:威胁、预防措施与漏洞
计算与语言
2023-08-25 v1 密码学与安全
摘要
受近期业界与学界大型语言模型(LLM)开发与分发快速增长的推动,许多近期工作已引起对 LLM 安全与安保相关威胁及漏洞的关注,包括在潜在犯罪活动背景下。具体而言,已表明 LLM 可被滥用于欺诈、冒充及恶意软件生成;而其他作者则考量了 AI 对齐这一更一般的问题。开发者和从业者均须意识到此类模型的安全相关问题。在本文中,我们概述了现有——以科学为主的——在识别与缓解 LLM 所致威胁与漏洞方面的努力。我们提出一个分类法,描述由 LLM 生成能力导致的威胁、旨在应对此类威胁的预防措施,以及由不完美预防措施产生的漏洞之间的关系。通过我们的工作,我们希望在经验丰富开发者和新技术用户中,提升对此类安全关切下 LLM 局限性的认识。
引用
@article{arxiv.2308.12833,
title = {Use of LLMs for Illicit Purposes: Threats, Prevention Measures, and Vulnerabilities},
author = {Maximilian Mozes and Xuanli He and Bennett Kleinberg and Lewis D. Griffin},
journal= {arXiv preprint arXiv:2308.12833},
year = {2023}
}
备注
Pre-print