共享想象：大语言模型类似幻觉
计算与语言
2024-07-24 v1
摘要
尽管近期大型语言模型（Large Language Models, LLMs）的涌现，但它们的训练配方——模型架构、预训练数据和优化算法——往往非常相似。这自然引出了一个问题：这些模型之间的相似性如何？本文提出了一种新颖的设置，即虚构问答（Imaginary Question Answering, IQA），以更好地理解模型相似性。在IQA中，我们要求一个模型生成纯粹的虚构问题（例如关于完全虚构的物理概念），然后让另一个模型进行回答。令人惊讶的是，尽管这些问题完全虚构，但所有模型都能成功回答彼此的问题，这表明这些模型在进行幻觉时 operates in 一个“共享想象空间”。我们对这一现象进行一系列研究，并讨论了其对模型同质性、幻觉以及计算创造力的影响。
引用
@article{arxiv.2407.16604,
title = {Shared Imagination: LLMs Hallucinate Alike},
author = {Yilun Zhou and Caiming Xiong and Silvio Savarese and Chien-Sheng Wu},
journal= {arXiv preprint arXiv:2407.16604},
year = {2024}
}