不存在通用学习者：语言模型及其双重优化
计算与语言
2024-08-22 v2
摘要
否则成功的大型语言模型 (LLMs) 在理解人类认知方面能扮演什么角色，特别是为语言习得辩论提供信息？为回答这一问题，我们首先论证人类和 LLMs 在多种意义上都不是通用学习者。我们对 LLMs 遵循双重优化过程提出了一个新论点：它们在训练期间被优化（通常与语言习得相比较），而现代 LLMs 也经历了类似物种自然选择的过程。由此，我们论证 LLMs 的性能，无论与人类相似还是不同，都不容易对关于人类认知偏差对语言重要性的重要辩论产生权重。
引用
@article{arxiv.2408.09544,
title = {No Such Thing as a General Learner: Language models and their dual optimization},
author = {Emmanuel Chemla and Ryan M. Nefdt},
journal= {arXiv preprint arXiv:2408.09544},
year = {2024}
}
备注
11 pages, 4 figures