中文

DCRNN:一种基于 RNN 的深层交叉多任务学习部分参数共享方法

信息检索 2023-10-19 v1

摘要

近年来,深度学习(DL)发展迅速,个性化服务正探索使用 DL 算法提升推荐系统性能。对于个性化服务,一次成功的推荐包含两部分:吸引用户点击物品与用户愿意消费该物品。若需同时预测两任务,传统推荐系统通常训练两个独立模型。该方法繁琐且不能有效建模“点击-消费”两子任务间关系。因此,为提高推荐成功率并降低计算成本,研究者尝试建模多任务学习。目前现有多任务学习模型普遍采用硬参数共享或软参数共享架构,但二者各有问题。为此,我们基于真实推荐场景提出一种新颖推荐模型——基于 RNN 的部分参数共享深度交叉网络(DCRNN)。该模型有三处创新:1)采用交叉网络思想并利用 RNN 网络交叉处理特征,从而有效提升模型表达能力;2)创新性提出部分参数共享结构;3)可有效捕捉不同任务间潜在关联,以优化学习不同任务的效率与方法。

关键词

引用

@article{arxiv.2310.11777,
  title  = {DCRNN: A Deep Cross approach based on RNN for Partial Parameter Sharing in Multi-task Learning},
  author = {Jie Zhou and Qian Yu},
  journal= {arXiv preprint arXiv:2310.11777},
  year   = {2023}
}

备注

Work done while the first author was an algorithm engineer at Xiaomi Inc