拒绝动态的追踪：利用潜在拒绝轨迹进行稳健越狱检测
密码学与安全
2026-05-27 v2 人工智能
计算与语言
机器学习
摘要
表示工程分析常将拒绝 characterize 为从终端或池化表示中提取的静态方向。我们询问这种观点是否忽略了拒绝是如何在层-标记位置构建的。通过因果追踪，我们识别出一种 \textit{拒绝轨迻}：一种稀疏的上游激活模式，即使当攻击如 GCG 抑制终端拒绝信号时，这种模式仍常常持续存在。基于这一观察，我们提出了 SALO（稀疏激活局部化算子），一种轻量级白盒检测器， operate on raw hidden-state volumes from a selected layer window。 在 Qwen、Llama 和 Mistral 模型上，SALO 在几个攻击家族下提升了在固定 XSTest 校准运行点的下越狱检测。我们进一步分析了静态 RepE 风格的基线、ROI 灵敏度、自适应 GCG 攻击以及编码输入边界情况，阐明了拒绝轨迹监控的前景与局限性。
引用
@article{arxiv.2605.02958,
title = {Tracing the Dynamics of Refusal: Exploiting Latent Refusal Trajectories for Robust Jailbreak Detection},
author = {Xulin Hu and Che Wang and Wei Yang Bryan Lim and Jianbo Gao and Zhong Chen},
journal= {arXiv preprint arXiv:2605.02958},
year = {2026}
}
备注
Accepted to the 43rd International Conference on Machine Learning (ICML 2026). Camera-ready version