Eyes-on-Me：通过可迁移注意力引导型诱饵实现大规模RAG投毒
机器学习
2025-12-09 v2 计算与语言
密码学与安全
摘要
现有的检索增强生成(RAG)系统数据投毒攻击规模较差，因需为每个目标短语优化受毒文档代价高昂。我们引入Eyes-on-Me，一种模块化攻击，将对抗文档分解为可重复使用的注意力引导型诱饵和聚焦区域。诱饵经过优化以引导注意力聚焦于目标区域。攻击者随后可插入检索器的语义饵木或生成器的恶意指令，以几乎零成本适应新目标。这通过引导我们经验上确定的与攻击成功率强相关的少数注意力头实现。我们在18个端到端RAG设置(3个数据集×2个检索器×3个生成器)下，Eyes-on-Me将平均攻击成功率从21.9提升至57.8(增加35.9分，约为现有工作的2.6倍)。优化后的单个诱饵可在无需重新训练的情况下迁移到未见的黑箱检索器和生成器。我们的发现确立了RAG数据投毒的可扩展范式，表明模块化、可重复使用的组件对现代AI系统构成实际威胁。它们还揭示了注意力集中度与模型输出之间强烈的关联，为可解释性研究提供了线索。
引用
@article{arxiv.2510.00586,
title = {Eyes-on-Me: Scalable RAG Poisoning through Transferable Attention-Steering Attractors},
author = {Yen-Shan Chen and Sian-Yao Huang and Cheng-Lin Yang and Yun-Nung Chen},
journal= {arXiv preprint arXiv:2510.00586},
year = {2025}
}