基于框架化大语言模型的认知建模:指代表达生成的案例研究
计算与语言
2024-07-09 v2
摘要
在何种程度上可以将大语言模型(LLM)用于语言生成的认知模型中?本文通过探索Dale & Reiter (1995)所提出指代表达生成算法认知模型的神经符号实现来回答此问题。符号任务分析将生成过程实现为一个迭代程序,通过对符号和基于gpt-3.5-turbo的模块进行框架化。我们将该实现与一个被剔除的模型和一个仅使用大语言模型的零样本基线进行比较,测试对象为A3DS数据集(Tsvilodub & Franke, 2023)。我们发现,我们的混合方法在认知上是合理的,并且在复杂情境中表现良好,同时允许对语言生成进行更开放的大规模建模。
引用
@article{arxiv.2407.03805,
title = {Cognitive Modeling with Scaffolded LLMs: A Case Study of Referential Expression Generation},
author = {Polina Tsvilodub and Michael Franke and Fausto Carcassi},
journal= {arXiv preprint arXiv:2407.03805},
year = {2024}
}
备注
11 pages, 3 figures, 2 algorithms, to appear at the ICML 2024 workshop on Large Language Models and Cognition