用 GPT-2 模型构建自然阅读认知过程的数学模型
神经元与认知
2024-10-01 v1 人工智能
摘要
自然语言处理领域的进步，使得开发出生成文本能力极强的语言模型成为可能。近年来，神经科学学者开始利用这些模型以更好地理解认知过程。我们在先前的研究中发现，使用类似 n-gram 和 LSTM 网络的模型，可作为解释读者视线运动的协变量，部分地对“可预测性”进行建模。本文进一步探索这一研究路径，通过使用 GPT-2 基于模型。结果表明，该架构的成绩优于其前身。
引用
@article{arxiv.2409.20174,
title = {Modelando procesos cognitivos de la lectura natural con GPT-2},
author = {Bruno Bianchi and Alfredo Umfurer and Juan Esteban Kamienkowski},
journal= {arXiv preprint arXiv:2409.20174},
year = {2024}
}
备注
in Spanish language