中文

浅层与深层语言理解的信息论模型

计算与语言 2024-05-15 v1 信息论 math.IT

摘要

心理语言学领域大量研究聚焦于在线语言理解可能为浅层或“足够好”的假设:在时间或可用计算资源受限的情况下,理解者可能形成不准确但符合情境的输入解释。然而,这一想法尚未与计算资源约束下的形式计算理论相结合。本文运用信息论,构建语言理解模型,将其形式化为准确性与处理深度之间的最优权衡,后者以从输入中提取的信息位数衡量,该信息量随处理时间增长。该模型将处理 effort 定义为处理深度变化,链接至EEG信号与阅读时间。我们针对大规模园径句子阅读时间数据集和包含N400、P600及双相ERPs效应的EEG实验验证了该理论。通过量化语言处理从浅层向深层推进的时序,本模型提供了统一框架,解释语言理解的行为与神经信号。

关键词

引用

@article{arxiv.2405.08223,
  title  = {An information-theoretic model of shallow and deep language comprehension},
  author = {Jiaxuan Li and Richard Futrell},
  journal= {arXiv preprint arXiv:2405.08223},
  year   = {2024}
}

备注

6 pages; accepted to COGSCI 2024