面向新闻推荐的提示学习

一些近期的 news recommendation（新闻推荐，NR）方法引入预训练语言模型（PLM），通过精心设计的推荐专用神经网络和目标函数，遵循常规的预训练与微调范式来编码新闻表示。由于任务目标与 PLM 的不一致，我们认为它们的建模范式未能充分利用预训练过程中嵌入的丰富语义信息与语言知识。近来，被称为 prompt learning（提示学习）的“预训练、提示、预测”范式在自然语言处理领域取得了诸多成功。本文首次尝试将该新范式发展为 Prompt Learning for News Recommendation（新闻推荐提示学习，Prompt4NR）框架，其将预测用户是否会点击候选新闻的任务转化为完形填空式的掩码预测任务。具体而言，我们设计了一系列提示模板，包括离散、连续和混合模板，并构建其对应的答案空间以检验所提出的 Prompt4NR 框架。此外，我们使用提示集成来整合多个提示模板的预测。在 MIND 数据集上的大量实验以一组新的基准结果验证了我们的 Prompt4NR 的有效性。