整合大语言模型与主动推断以理解阅读与 dyslexia 中的眼动
神经元与认知
2025-08-11 v3 计算与语言
摘要
我们提出一种采用层次化主动推断的新计算模型来模拟阅读与眼动。该模型将语言处理刻画为在层次化生成模型上的推断,促进从音节到句子不同粒度层级的预测与推断。我们的方法结合大语言模型对真实文本预测的优势与主动推断对引导眼动至信息性文本内容的能力,从而能够检验预测。该模型在阅读已知与未知单词及句子上均表现熟练,遵循阅读双通路理论中词汇与非词汇通路的区分。因此,我们的模型在预测加工框架下提供一种理解阅读与眼动底层认知过程的新途径。此外,我们的模型可能有助于理解适应性不良的预测加工如何产生与 dyslexia 相关的阅读缺陷。作为概念验证,我们展示在阅读过程中减弱先验贡献会导致错误推断与更碎片化的阅读风格,其特征为更多更短的扫视,与关于 dyslexic 个体眼动的实证发现一致。总之,我们的模型代表在理解阅读与眼动所涉认知过程上的显著进展,对从适应性不良推断角度理解 dyslexia 具有潜在意义。
引用
@article{arxiv.2308.04941,
title = {Integrating large language models and active inference to understand eye movements in reading and dyslexia},
author = {Francesco Donnarumma and Mirco Frosolone and Giovanni Pezzulo},
journal= {arXiv preprint arXiv:2308.04941},
year = {2025}
}
备注
Main Document - 30 pages, 1 Table, 10 Figures + Supplementary 16 pages, 17 Tables