目标导向阅读理解中的人类注意依赖于任务优化
计算与语言
2023-04-25 v2 人工智能
摘要
复杂目标导向任务中注意分配的計算原理仍不明了。目标导向阅读，即带着心中问题阅读段落以作答，是一项强烈调动注意力的常见现实任务。本文中，我们探究何种计算模型可解释该复杂任务中的注意分布。我们表明，每个词上的阅读时间可由优化以执行相同阅读任务的基于 transformer 的深度神经网络（DNN）的注意权重所预测。眼动追踪进一步揭示，读者在首次阅读与重读时分别单独关注基础文本特征与问题相关信息。类似地，文本特征与问题相关性分别在浅层与深层 DNN 中单独调制注意权重。此外，当读者心中无问题而浏览段落时，其阅读时间由优化用于词预测任务的 DNN 所预测。因此，现实阅读中的注意可解释为任务优化的结果。
引用
@article{arxiv.2107.05799,
title = {Human Attention during Goal-directed Reading Comprehension Relies on Task Optimization},
author = {Jiajie Zou and Yuran Zhang and Jialu Li and Xing Tian and Nai Ding},
journal= {arXiv preprint arXiv:2107.05799},
year = {2023}
}