NegBLEURT 森林：利用不一致性检测越狱攻击
密码学与安全
2025-12-01 v2 人工智能
摘要
旨在绕过安全机制而生成有害或不当内容的越狱攻击构成严重威胁，尽管符合伦理指南。由于制定通用过滤规则困难且高度依赖具体情境，本文提出一种基于成功与失败响应之间语义一致性分析的方法，通过否定感知评分捕获有意义的模式。构建于此洞见之上，提出了一种新型检测框架，称为 NegBLEURT 森林，用于评估对抗性提示下输出与预期安全行为之间的对齐程度。通过 Isolation Forest 算法识别异常响应，从而实现可靠的越狱检测。实验结果表明，所提方法在多样化模型上使用所构建数据集时始终实现顶级性能，准确率排名第一或第二，而竞争方法则对模型和数据变化表现出显著敏感性。
引用
@article{arxiv.2511.11784,
title = {NegBLEURT Forest: Leveraging Inconsistencies for Detecting Jailbreak Attacks},
author = {Lama Sleem and Jerome Francois and Lujun Li and Nathan Foucher and Niccolo Gentile and Radu State},
journal= {arXiv preprint arXiv:2511.11784},
year = {2025}
}
备注
This paper has been accepted in IEEE Consumer Communications & Networking Conference 2026