大语言模型：当前辩论中所需的细致考量与理解其实用主义视角
计算与语言
2023-11-01 v2 人工智能
摘要
当前的大语言模型（LLMs）在生成语法正确、流畅文本方面的能力无与伦比。LLMs 迅速涌现，关于其能力的辩论已然兴起，但反思却滞后于实践。因此，在本立场论文中，我们首先聚焦该辩论，并批判性地评估了针对 LLM 能力的批评中反复出现的三个观点：i) LLMs 只是复述训练数据中的统计模式；ii) LLMs 掌握了形式而非功能的语言能力；iii) LLMs 中的语言学习无法为人类语言学习提供启示。借助经验与理论论证，我们表明这些观点需要更细致的考量。其次，我们勾勒出一种关于 LLMs 中“真实”理解与意向性的实用主义视角。理解与意向性涉及我们归因于其他人类的不可观测心理状态，因为它们具有实用价值：它们使我们能够忽略复杂的底层机制并有效预测行为。我们反思了在何种情形下人类将类似地归因于 LLMs 以心理状态是合理的，从而为一个日益重要的社会技术——LLMs——勾勒出实用主义哲学语境。
引用
@article{arxiv.2310.19671,
title = {Large Language Models: The Need for Nuance in Current Debates and a Pragmatic Perspective on Understanding},
author = {Bram M. A. van Dijk and Tom Kouwenhoven and Marco R. Spruit and Max J. van Duijn},
journal= {arXiv preprint arXiv:2310.19671},
year = {2023}
}
备注
15 pages, 0 figures, Forthcoming in Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing