从循环到哦：语言模型在不确定性下的后备行为
计算与语言
2025-02-11 v2 人工智能
摘要
大型语言模型(LLMs)常常表现出令人不愉快的行为，如幻觉和序列重复。我们提出将这些行为视为模型在认识不确定性下所表现的后备行为，并研究它们之间的联系。我们对后备行为进行分类——序列重复、退化文本和幻觉——并广泛分析来自同一模型家族中不同规模模型的这些行为。我们的实验揭示了后备行为在所有这些轴向上呈现清晰且一致的排序：更高级的LLM(即训练了更多标记、更多参数或包含指令调教)其后备行为的顺序从序列重复，转为退化文本，最终为幻觉。此外，即使对最佳性能模型，在单个序列的生成过程中也观察到相同的排序；随着不确定性的增加，模型从生成幻觉转为产生退化文本，最终为序列重复。最后，我们演示了尽管常见的解码技术，如随机抽样，能够缓解诸如序列重复之类的令人不快的行为，但会增加难以检测的幻觉。
引用
@article{arxiv.2407.06071,
title = {From Loops to Oops: Fallback Behaviors of Language Models Under Uncertainty},
author = {Maor Ivgi and Ori Yoran and Jonathan Berant and Mor Geva},
journal= {arXiv preprint arXiv:2407.06071},
year = {2025}
}
备注
NeurIPS Workshop on Attributing Model Behavior at Scale (ATTRIB 2024)