BudgetLeak: 基于生成预算侧信道的 RAG 系统会员推断攻击
密码学与安全
2025-11-18 v1
摘要
检索增强生成 (RAG) 通过集成外部知识提升大型语言模型的性能，但依赖专有或敏感语料库会引发数据风险，包括隐私泄露和未经授权的数据使用。会员推断攻击 (Membership Inference Attacks, MIAs) 是评估此类风险的常用技术，但现有方法在 RAG 系统中表现不佳，由于黑箱限制以及缺乏强大的会员信号。本文识别了 RAG 系统中一个此前未被探索的侧信道：生成预算，即控制生成响应最大 token 数的参数。改变该预算会在会员查询与非会员查询之间暴露可观察的行为模式，因为会员查询在更大的预算下能更快获得更好的质量。基于此洞察，我们提出了 BudgetLeak，这是一种新颖的会员推断攻击方法，通过在不同预算下探测响应并分析指标演变来实现，采用序列建模或聚类技术。广泛的实验在四个数据集、三个 LLM 生成器和两个检索器上表明，BudgetLeak 持续优于现有基线，同时保持高效和实际可行性。我们的发现揭示了 RAG 系统中一个此前被忽视的数据风险，凸显了新防御措施的必要性。
引用
@article{arxiv.2511.12043,
title = {BudgetLeak: Membership Inference Attacks on RAG Systems via the Generation Budget Side Channel},
author = {Hao Li and Jiajun He and Guangshuo Wang and Dengguo Feng and Zheng Li and Min Zhang},
journal= {arXiv preprint arXiv:2511.12043},
year = {2025}
}