Hacc-Man：一款用于越狱大语言模型的街机游戏
密码学与安全
2024-05-28 v1 人工智能
计算与语言
人机交互
摘要
大语言模型（LLM）在复杂性和流畅性方面的最新飞跃意味着，人类历史上首次，人们可以仅使用自然语言与计算机交互。这为计算的自动化和可访问性创造了巨大的可能性，但也带来了严重的安全和安保威胁：当每个人都能与LLM交互时，每个人都可能入侵运行LLM的系统。所需要的只是创造性地使用语言。本文介绍了Hacc-Man，一款挑战玩家“越狱”LLM的游戏：颠覆LLM，使其输出非预期内容。越狱处于创造性问题解决与LLM安全的交叉点。该游戏的目的有三：1. 提高对在日常系统中部署脆弱LLM风险的认识；2. 提高人们与LLM交互的自我效能感；3. 发现人们在这种新颖情境中采用的创造性问题解决策略。
引用
@article{arxiv.2405.15902,
title = {Hacc-Man: An Arcade Game for Jailbreaking LLMs},
author = {Matheus Valentim and Jeanette Falk and Nanna Inie},
journal= {arXiv preprint arXiv:2405.15902},
year = {2024}
}