合成人类注视反馈以提升 NLP 性能
人机交互
2023-02-14 v1 计算与语言
摘要
将人类反馈整合进模型可以提升自然语言处理(NLP)模型的性能。反馈可以是显式的(例如用于训练语言模型的排序),也可以是隐式的(例如以眼动追踪形式利用人类认知信号)。先前的眼动追踪与 NLP 研究表明,从人类注视模式中获得的认知过程(如人类扫描路径)有助于 NLP 模型的理解与性能提升。然而,由于需要昂贵且精密的设备并涉及隐私侵犯问题,为 NLP 任务收集真实眼动数据颇具挑战。为应对这一挑战,我们提出 ScanTextGAN,一种在文本上生成人类扫描路径的新颖模型。我们表明,ScanTextGAN 生成的扫描路径可近似人类注视模式中有意义的认知信号。作为概念验证,我们将合成生成的扫描路径纳入跨越六个不同数据集的四个流行 NLP 任务中,并展示经生成扫描路径增强的模型提升了所有下游 NLP 任务的性能。
引用
@article{arxiv.2302.05721,
title = {Synthesizing Human Gaze Feedback for Improved NLP Performance},
author = {Varun Khurana and Yaman Kumar Singla and Nora Hollenstein and Rajesh Kumar and Balaji Krishnamurthy},
journal= {arXiv preprint arXiv:2302.05721},
year = {2023}
}
备注
Accepted at European Chapter of the Association for Computational Linguistics (EACL)