打破循环：检测并缓解大语言模型中的拒绝服务漏洞
密码学与安全
2025-03-04 v1 人工智能
性能
摘要
大语言模型（LLMs）在文本理解与生成方面取得显著进展，已成为教育、软件开发、医疗、娱乐和法律服务等领域的关键组成部分。尽管在提升模型可靠性方面取得了显著进展，但针对延迟问题的研究仍不足，尤其是通过递归生成（recurrent generation）导致模型反复生成相同或类似输出的情况，这会增加延迟并引发潜在的拒绝服务（DoS）漏洞。我们提出了 RecurrentGenerator，一种黑盒进化算法，高效识别 LLMs（如 LLama-3 和 GPT-4o）中的递归生成场景。此外，我们引入 RecurrentDetector，一种基于激活模式训练的轻量级实时分类器，在检测递归循环方面实现 95.24% 的准确率和 0.87 的 F1 分数。我们的方法提供了缓解与延迟相关漏洞的实用方案，并公开分享了我们的工具和数据，以支持进一步的研究。
引用
@article{arxiv.2503.00416,
title = {Breaking the Loop: Detecting and Mitigating Denial-of-Service Vulnerabilities in Large Language Models},
author = {Junzhe Yu and Yi Liu and Huijia Sun and Ling Shi and Yuqi Chen},
journal= {arXiv preprint arXiv:2503.00416},
year = {2025}
}