SimCPSR:用于论文投稿推荐系统的简单对比学习
信息检索
2022-05-13 v1 计算机视觉与模式识别
摘要
推荐系统在诸多领域尤其是学术领域发挥着重要作用,可支持研究人员通过会议或期刊选择过程投稿并提升其成果的录用率。本研究提出一种基于 Transformer 并利用迁移学习的模型,作为论文投稿推荐系统的高效方法。通过结合基本信息(如标题、摘要和关键词列表)与期刊的宗旨与范围,该模型可推荐使论文录用率最大化的前 K 个期刊。我们的模型通过两个阶段开发:(i)使用简单对比学习框架微调预训练语言模型(LM)。我们采用简单的监督对比目标来微调所有参数,促使 LM 有效学习文档表示。(ii)随后将微调后的 LM 在下游任务的不同特征组合上训练。与以往方法相比,本研究提出了一种更先进的方法来提升论文投稿推荐系统的效率:当我们将标题、摘要和关键词作为输入特征组合时,在测试集上分别取得了 Top 1、3、5 和 10 准确率 0.5173、0.8097、0.8862、0.9496。结合期刊的宗旨与范围,我们的模型取得了令人振奋的结果,在 Top 1、3、5 和 10 上分别达到 0.5194、0.8112、0.8866 和 0.9496。
引用
@article{arxiv.2205.05940,
title = {SimCPSR: Simple Contrastive Learning for Paper Submission Recommendation System},
author = {Duc H. Le and Tram T. Doan and Son T. Huynh and Binh T. Nguyen},
journal= {arXiv preprint arXiv:2205.05940},
year = {2022}
}
备注
13 pages, 1 table, 4 figures