面向多任务推荐的深度任务特定底层表示网络
人工智能
2023-08-21 v2
摘要
基于神经网络的多任务学习（MTL）已取得显著进展，并成功应用于推荐系统（RS）。近期面向 RS 的深度 MTL 方法（如 MMoE、PLE）侧重于设计基于软门控的参数共享网络，以隐式地学习各任务的通用表示。然而，当处理冲突任务时，MTL 方法可能因任务共享底层表示上出现负迁移效应而性能退化。这会导致 MTL 方法捕捉任务特定特征的能力下降，最终阻碍其有效性并削弱在所有任务上良好泛化的能力。本文关注 RS 中 MTL 的底层表示学习，提出深度任务特定底层表示网络（DTRN）以缓解负迁移问题。DTRN 通过在底层表示建模阶段为每个任务配备独立的表示学习网络，显式地获取任务特定的底层表示。具体而言，它通过参数高效的超网络从多类行为序列中为每个任务提取用户兴趣。为进一步获取各任务的专用表示，DTRN 通过类 SENet 的网络对每个特征表示进行精炼。所提两个模块可实现获取任务特定底层表示以缓解任务间相互干扰的目的。此外，所提 DTRN 可灵活地与现有 MTL 方法结合。在公开数据集与工业数据集上的实验证明了 DTRN 的有效性。
引用
@article{arxiv.2308.05996,
title = {Deep Task-specific Bottom Representation Network for Multi-Task Recommendation},
author = {Qi Liu and Zhilong Zhou and Gangwei Jiang and Tiezheng Ge and Defu Lian},
journal= {arXiv preprint arXiv:2308.05996},
year = {2023}
}
备注
CIKM'23