升级如此之快：单轮渐进攻击 (STCA)
密码学与安全
2024-09-12 v2 计算与语言
摘要
本文引入了一种针对大型语言模型 (LLMs) 对抗攻击的新方法，称为单轮渐进攻击 (STCA)。基于 Russinovich、Salem 和 Eldan (2024) 提出的多轮渐进攻击方法（该方法通过逐步升级上下文来引发有害响应），STCA 在单次交互中实现了类似的结果。通过将升级过程浓缩为一个精心构造的单一提示，STCA 绕过了 LLMs 用于防止不当输出的典型审核过滤器。该技术揭示了当前 LLMs 的漏洞，并强调了在负责任 AI (RAI) 中加强保障措施的重要性。STCA 提供了一种此前未被探索过的新方法。
引用
@article{arxiv.2409.03131,
title = {Well, that escalated quickly: The Single-Turn Crescendo Attack (STCA)},
author = {Alan Aqrawi and Arian Abbasi},
journal= {arXiv preprint arXiv:2409.03131},
year = {2024}
}