MMD-Flagger：利用最大均值差异检测幻觉
计算与语言
2025-10-30 v3 机器学习
摘要
大型语言模型（LLMs）已在我们日常生活中无处不在。然而，一个根本性的障碍阻碍了其在许多关键应用中的使用：它们倾向于生成流畅、达到人类水平但不符合现实的内容。因此，检测此类幻觉至关重要。在这项工作中，我们提出了一种标记幻觉内容的新方法：MMD-Flagger。它依赖于最大均值差异（MMD），这是一种衡量分布间距离的非参数方法。在宏观层面上，MMD-Flagger 跟踪待检查输出与使用不同温度参数生成的对应输出之间的 MMD。我们通过实证表明，观察这一轨迹的形状足以检测出大多数幻觉。这种新颖的方法在机器翻译和摘要数据集上进行了基准测试，相较于同类竞争方法展现出了颇具竞争力的性能。
引用
@article{arxiv.2506.01367,
title = {MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations},
author = {Kensuke Mitsuzawa and Damien Garreau},
journal= {arXiv preprint arXiv:2506.01367},
year = {2025}
}