语言模型更像图书馆还是图书管理员？文献技术主义、新指称问题与 LLM 的态度
计算与语言
2024-06-04 v3
摘要
LLM 是像复印机或印刷机那样传递信息但不能创造新内容的文化技术吗？这种我们称之为文献技术主义（bibliotechnism）的观点面临的一个挑战是，LLM 会生成新颖文本。我们首先为文献技术主义辩护，展示即使是新颖文本也可能从原始人类生成的文本中继承其意义。然后，我们论证文献技术主义面临一个独立的挑战，来自 LLM 生成新颖指称的例子，即使用新名称指称新实体。如果 LLM 不是文化技术，而是拥有信念、欲望和意图，那么这些例子就可以得到解释。根据心灵哲学中的解释主义，一个系统拥有这样的态度，当且仅当其行为能被假设它拥有这些态度的假说很好地解释。解释主义者可能认为 LLM 拥有态度，从而对新指称问题有一个简单的解决方案。然而，我们强调，解释主义与非常简单的生物拥有态度是相容的，并且与预设这些态度需要意识、感知或智能的观点（我们对这些话题不作任何断言）截然不同。
引用
@article{arxiv.2401.04854,
title = {Are Language Models More Like Libraries or Like Librarians? Bibliotechnism, the Novel Reference Problem, and the Attitudes of LLMs},
author = {Harvey Lederman and Kyle Mahowald},
journal= {arXiv preprint arXiv:2401.04854},
year = {2024}
}