从任务结构到世界模型：LLM知道什么？
人工智能
2024-04-02 v1 神经元与认知
摘要
大语言模型在何种意义上拥有知识？对这一问题的回答超越了对特定AI系统能力的探讨，并挑战了我们关于知识与智能本质的预设。我们的回答是赋予LLM“工具性知识”；即由一组特定能力所定义的知识。继而我们追问此类知识如何与人工主体所展现的更寻常的“世俗”知识相关联，并依据工具性知识在多大程度上可说纳入了认知科学的结构化世界模型来探讨这一点。我们讨论了LLM恢复一定程度世俗知识的方式，并认为这种恢复将由世界模型与任务需求之间一种隐式的、资源理性权衡所支配。
引用
@article{arxiv.2310.04276,
title = {From task structures to world models: What do LLMs know?},
author = {Ilker Yildirim and L. A. Paul},
journal= {arXiv preprint arXiv:2310.04276},
year = {2024}
}