没有通用方案：QueryBandits 用于幻觉缓解
计算与语言
2026-02-25 v1 人工智能
机器学习
摘要
大型语言模型（Large Language Models, LLMs）的高级推理能力导致幻觉现象更频繁；然而，大多数缓解工作集中于开源模型，关注事后检测和参数编辑。针对闭源模型幻觉的研究尤为稀少，这尤其令人担忧，因为它们构成了机构部署中绝大多数模型。我们引入QueryBandits，一个模型中性的情境臂-bandit框架，通过利用经实证验证和校准的奖励函数，自适应学习在线选择最优查询重写策略。在16个问答场景中，我们的顶级QueryBandits（Thompson抽样）相较于无重写基准以87.5%的胜率，并在零-shot静态策略（如改写或扩写）上分别优于42.6%和60.3%。此外，所有情境臂-bandit均在所有数据集上超越普通臂-bandit，特征方差与臂位选择方差呈正相关。这印证了我们发现：不存在单一的重写策略适用于所有查询。我们还发现，某些静态策略的累积遗憾高于无重写，表明刚性的查询重写策略可能加剧幻觉现象。因此，通过QueryBandits在语义特征上在线学习策略，可仅通过前向传播机制改变模型行为，使其可用于闭源模型，无需重新训练或基于梯度的适应。
引用
@article{arxiv.2602.20332,
title = {No One Size Fits All: QueryBandits for Hallucination Mitigation},
author = {Nicole Cho and William Watson and Alec Koppel and Sumitra Ganesh and Manuela Veloso},
journal= {arXiv preprint arXiv:2602.20332},
year = {2026}
}