通过统一注意力网络桥接认知加工信号与语言特征
计算与语言
2022-03-22 v2 人工智能
摘要
认知加工信号可用于改进自然语言处理（NLP）任务。然而，这些信号如何与语言信息相关联尚不清楚。人类语言加工与语言特征之间的桥接在神经语言学中被广泛研究，通常借助高度受控刺激下的单变量控制实验。此类方法不仅损害了自然阅读的真实性，而且耗时且昂贵。本文提出一种数据驱动的方法来探究认知加工信号与语言特征之间的关系。具体而言，我们提出一个由嵌入、注意力、编码和预测层组成的统一注意力框架，以选择性地将认知加工信号映射到语言特征。我们将该映射过程定义为桥接任务，并为词汇、句法和语义特征开发了12个桥接任务。所提出的框架仅需要自然阅读下记录的认知加工信号作为输入，并可使用单个认知数据集检测广泛的语言特征。实验结果中的观察与先前的神经科学发现相呼应。此外，我们的实验还揭示了一些有趣的发现，例如上下文眼动特征与句子时态之间的相关性。
引用
@article{arxiv.2112.08831,
title = {Bridging between Cognitive Processing Signals and Linguistic Features via a Unified Attentional Network},
author = {Yuqi Ren and Deyi Xiong},
journal= {arXiv preprint arXiv:2112.08831},
year = {2022}
}