FERRET：扩展依赖性红队测试框架
计算与语言
2026-03-12 v1 人工智能
摘要
我们提出了一个多方位的自动化红队测试框架，其目标是生成能够突破目标模型并引发各种扩展的多模态对话。引入的扩展包括：1. 水平扩展，即通过自我提升生成更有效的对话起始语以塑造对话；2. 垂直扩展，即将在水平扩展阶段发现的对话起始语扩展为有效的多模态对话；3. 元扩展，即在对话过程中发现更有效的多模态攻击策略。我们称我们的框架为FERRET（Framework for Expansion Reliant Red Teaming），并将其与各种现有自动化红队测试方法进行比较。我们的实验表明，FERRET在生成有效的多模态对抗性对话方面具有效能，且相较于现有最先进的方法表现出优势。
引用
@article{arxiv.2603.10010,
title = {FERRET: Framework for Expansion Reliant Red Teaming},
author = {Ninareh Mehrabi and Vitor Albiero and Maya Pavlova and Joanna Bitton},
journal= {arXiv preprint arXiv:2603.10010},
year = {2026}
}