提示诱导的过度生成即拒绝服务：一种黑盒攻击侧基准
密码学与安全
2026-01-21 v2 人工智能
机器学习
摘要
大型语言模型（LLM）可以被驱使进入过度生成状态，在生成序列结束（EOS）标记之前输出数千个标记。这会降低回答质量，增加延迟和成本，并可能被武器化为拒绝服务攻击。最近的工作已开始研究 DoS 式提示攻击，但通常只关注单一攻击算法或假设拥有白盒访问权限，而缺乏在黑盒、仅查询且分词器已知的情况下比较基于提示的攻击者的攻击侧基准。我们引入了这样一个基准，并研究了两种仅使用提示的攻击者。第一种是进化过度生成提示搜索（EOGen），它在标记空间中搜索抑制 EOS 并诱导长续写的前缀。第二种是目标条件强化学习攻击者（RL-GOAL），它训练一个网络来生成以目标长度为条件的前缀。为了表征行为，我们引入了过度生成因子（OGF）：生成的标记数与模型上下文窗口大小的比率，以及停滞和延迟摘要。EOGen 发现了短前缀攻击，使 Phi-3 的 OGF 升至 1.39 +/- 1.14（Success@>=2：25.2%）；RL-GOAL 将严重程度几乎翻倍至 OGF = 2.70 +/- 1.43（Success@>=2：64.3%），并在 46% 的试验中导致预算耗尽的非终止。
引用
@article{arxiv.2512.23779,
title = {Prompt-Induced Over-Generation as Denial-of-Service: A Black-Box Attack-Side Benchmark},
author = {Manu and Yi Guo and Kanchana Thilakarathna and Nirhoshan Sivaroopan and Jo Plested and Tim Lynar and Jack Yang and Wangli Yang},
journal= {arXiv preprint arXiv:2512.23779},
year = {2026}
}
备注
17 pages, 5 figures