中文

迈向相似度调整的惊异理论

计算与语言 2024-10-24 v1

摘要

惊异理论认为,理解一个单词所需的认知努力由其上下文可预测性决定,以惊异度量化。传统上,惊异理论将单词视为不同的实体,忽略了它们之间任何潜在的相似性。Giulianelli等人(2023)通过引入信息价值(一种旨在考虑交际单元之间相似性的可预测性度量)来解决这一局限性。我们的工作利用Ricotta和Szeidl(2006)的多样性指数将惊异度扩展为一种我们称之为相似度调整惊异度的度量,揭示了惊异度与信息价值之间的数学关系。当考虑分级相似性时,相似度调整惊异度与信息价值一致,而当单词被视为不同实体时,它简化为标准惊异度。使用阅读时间数据的实验结果表明,对于某些数据集,相似度调整惊异度在标准惊异度之外增加了预测能力,表明它可作为理解努力的一种补充度量。

关键词

引用

@article{arxiv.2410.17676,
  title  = {Towards a Similarity-adjusted Surprisal Theory},
  author = {Clara Meister and Mario Giulianelli and Tiago Pimentel},
  journal= {arXiv preprint arXiv:2410.17676},
  year   = {2024}
}

备注

EMNLP 2024 main conference proceedings