利用启 priming 攻击绕过开源 LLM 的安全训练

随着 LLM 近期人气的激增，对 LLM 安全训练的需求也日益增长。在本文中，我们研究了 SOTA 开源 LLM 在简单的、无需优化的攻击（我们称之为 $\textit{priming attacks}$）下的脆弱性，这些攻击易于执行并能有效绕过安全训练的对齐。与基线相比，我们提出的攻击将由 Llama Guard 衡量的有害行为攻击成功率提高了高达 $3.3\times$。源代码和数据可在 https://github.com/uiuc-focal-lab/llm-priming-attacks 获取。