中文

GazBy:基于注视的BERT模型以将人类注意力引入神经信息检索

信息检索 2022-07-06 v1

摘要

本文致力于探究人类注视信号是否可被用以提升最先进搜索引擎的性能,以及如何将这种由人类注意力标记的新输入信号整合进现有神经检索模型。本文提出GazBy(基于注视的BERT文档相关性模型),一种轻量级联合模型,将人类注视 fixation 估计整合进transformer模型以预测文档相关性,将关于认知处理的更细微信息引入信息检索(IR)。我们在文本检索会议(TREC)深度学习(DL)2019与2020赛道上评估了我们的模型。实验展示了令人鼓舞的结果,并阐明了利用人类注视辅助基于transformer的神经检索器的有效与无效切入点。随着虚拟现实(VR)与增强现实(AR)的兴起,人类注视数据将更易获取。我们希望本工作能作为在现代神经搜索引擎中探索使用注视信号的第一步。

关键词

引用

@article{arxiv.2207.01674,
  title  = {GazBy: Gaze-Based BERT Model to Incorporate Human Attention in Neural Information Retrieval},
  author = {Sibo Dong and Justin Goldstein and Grace Hui Yang},
  journal= {arXiv preprint arXiv:2207.01674},
  year   = {2022}
}