面向论文评审评分推荐的层次化双向自注意力网络
计算与语言
2020-11-03 v1 机器学习
摘要
文本评审的评分预测是一项快速发展的技术,在自然语言处理中有广泛应用。然而,现有大多数方法要么使用手工特征,要么以简单文本语料作为输入、利用深度学习学习特征来进行评审评分预测,忽略了数据间的层次结构。本文提出一种层次化双向自注意力网络框架(HabNet)用于论文评审评分预测与推荐,可作为学术论文评审过程的有效决策工具。具体而言,我们利用论文评审的层次结构,采用三级编码器:句子编码器(第一级)、评审内编码器(第二级)和评审间编码器(第三级)。每个编码器先推导各层次的上下文表示,再生成更高层次的表示;在学习过程后,我们能够识别有用的预测因子以做出最终的录用决策,并有助于发现数值评审评分与评审者所传达文本情感之间的不一致。此外,我们引入两个新指标来评估数据不平衡情形下的模型。在公开数据集(PeerRead)和我们自己收集的数据集(OpenReview)上的大量实验表明,所提方法相较最先进的方法具有优越性。
引用
@article{arxiv.2011.00802,
title = {Hierarchical Bi-Directional Self-Attention Networks for Paper Review Rating Recommendation},
author = {Zhongfen Deng and Hao Peng and Congying Xia and Jianxin Li and Lifang He and Philip S. Yu},
journal= {arXiv preprint arXiv:2011.00802},
year = {2020}
}
备注
Accepted by COLING 2020