TADO:具有时变注意力与双优化器的模型
信息检索
2020-12-14 v2
摘要
基于评论的推荐系统通常用于衡量用户对不同物品的偏好。本文致力于解决基于评论的方法中存在的三个主要问题。首先,这些方法受类别不平衡问题困扰,占比较低评分等级在一定程度上会被忽略,因此其在相对稀有评分等级上的表现不尽如人意。作为该领域解决此问题的首次尝试,我们提出了一种灵活的双优化器模型,以从回归损失与分类损失中获得鲁棒性。其次,为解决词嵌入的上下文信息提取能力不足所带来的问题,我们首次将 BERT 引入基于评论的方法中以提升语义分析的性能。第三,现有方法忽略了时变用户偏好的特征信息。为此,我们提出了一种结合双向长短期记忆与多尺度卷积神经网络的时变特征提取模块。随后,提出一个交互组件以进一步概括用户-物品对的上下文信息。为验证所提 TADO 的有效性,我们在选自 Amazon Product Reviews 的 23 个基准数据集上进行了大量实验。与若干近期提出的 state-of-the-art 方法相比,我们的模型相对 ALFM、MPCN 与 ANR 分别平均获得 20.98%、9.84% 与 15.46% 的显著增益。进一步分析证明了在 TADO 中联合使用所提组件的必要性。
引用
@article{arxiv.2012.04558,
title = {TADO: Time-varying Attention with Dual-Optimizer Model},
author = {Yuexin Wu and Tianyu Gao and Sihao Wang and Zhongmin Xiong},
journal= {arXiv preprint arXiv:2012.04558},
year = {2020}
}