通过移除冗余约束来增强 LLM 恶作剧攻击的可迁移性
机器学习
2025-03-05 v1 人工智能
密码学与安全
摘要
恶作剧攻击可以有效诱导大型语言模型 (LLM) 产生不安全行为; 然而, 这些攻击在不同模型之间之间的可迁移性有限. 本研究旨在理解和增强基于梯度的恶作剧方法的可迁移性, 这些方法是攻击白盒模型的标准方法之一. 通过对优化过程进行详细分析, 我们引入了一种新型概念框架来阐明可迁移性并识别冗余约束- Specifically, response pattern constraint 和 token tail constraint-作为提高可迁移性的重要障碍. 删除这些不必要的约束可显著增强梯度攻击的可迁移性和可控性. 在以 Llama-3-8B-Instruct 作为源模型进行评估后, 本方法将不同安全水平目标模型上的整体 Transfer Attack Success Rate (T-ASR) 从 18.4% 提升至 50.3%, 同时也提高了源模型和目标模型上恶作剧行为的稳定性和可控性.
引用
@article{arxiv.2503.01865,
title = {Guiding not Forcing: Enhancing the Transferability of Jailbreaking Attacks on LLMs via Removing Superfluous Constraints},
author = {Junxiao Yang and Zhexin Zhang and Shiyao Cui and Hongning Wang and Minlie Huang},
journal= {arXiv preprint arXiv:2503.01865},
year = {2025}
}