AutoDAN-Turbo：一种用于自主探索策略以越狱 LLM 的终身智能体
密码学与安全
2025-04-23 v4 人工智能
机器学习
摘要
本文提出 AutoDAN-Turbo，这是一种黑箱越狱方法，能够从零开始自动发现尽可能多的越狱策略，无需任何人工干预或预定义范围（例如指定的候选策略），并用于红队测试。因此，AutoDAN-Turbo 在公开基准测试中平均攻击成功率显著高于基线方法，提高了 74.3%。值得注意的是，AutoDAN-Turbo 在 GPT-4-1106-turbo 上实现了 88.5 的攻击成功率。此外，AutoDAN-Turbo 是一个统一的框架，可以插即式方式整合现有的人类设计的越狱策略。通过整合人类设计的策略，AutoDAN-Turbo 甚至可以在 GPT-4-1106-turbo 上实现更高的 93.4 的攻击成功率。
引用
@article{arxiv.2410.05295,
title = {AutoDAN-Turbo: A Lifelong Agent for Strategy Self-Exploration to Jailbreak LLMs},
author = {Xiaogeng Liu and Peiran Li and Edward Suh and Yevgeniy Vorobeychik and Zhuoqing Mao and Somesh Jha and Patrick McDaniel and Huan Sun and Bo Li and Chaowei Xiao},
journal= {arXiv preprint arXiv:2410.05295},
year = {2025}
}
备注
ICLR 2025 Spotlight. Project Page: https://autodans.github.io/AutoDAN-Turbo Code: https://github.com/SaFoLab-WISC/AutoDAN-Turbo