重新定义LLM中的“幻觉”：迈向基于心理学的错误信息缓解框架
计算与语言
2024-02-06 v1 人工智能
摘要
近年来，大型语言模型（LLMs）变得极为流行，例如ChatGPT已被超过十亿用户使用。尽管这些模型表现出卓越的语言理解和逻辑能力，但一个显著挑战以“幻觉”的形式浮现。这一现象导致LLMs以自信的方式输出错误信息，在如此庞大的用户群中可能带来毁灭性后果。然而，我们质疑“幻觉”一词在LLMs中的恰当性，提出了一种基于认知偏差和其他心理现象的心理学分类法。我们的方法提供了对这一现象更细粒度的理解，从而允许有针对性的解决方案。通过借鉴人类内部解决类似挑战的见解，我们旨在制定缓解LLM幻觉的策略。这种跨学科方法旨在超越传统术语，为改进LLM可靠性提供细致入微的理解和可行的路径。
引用
@article{arxiv.2402.01769,
title = {Redefining "Hallucination" in LLMs: Towards a psychology-informed framework for mitigating misinformation},
author = {Elijah Berberette and Jack Hutchins and Amir Sadovnik},
journal= {arXiv preprint arXiv:2402.01769},
year = {2024}
}