GradCraft：通过整体梯度构造提升多任务推荐
信息检索
2024-11-19 v2
摘要
推荐系统需要同时优化多个目标来准确建模用户兴趣， necessitating 应用多任务学习方法。然而，现有的推荐领域多任务学习方法忽略了推荐场景的特定特征，难以实现恰当的梯度平衡。为此，我们以实现适当的梯度大小平衡和全局方向平衡为目标，提出一种创新方法，称为 GradCraft。GradCraft 动态调整梯度大小以对齐最大梯度范数，从而减轻梯度大小对后续操作的干扰。然后，通过投影消除考虑所有冲突任务的方向冲突，理论上保证全局解决方向冲突。GradCraft 确保适当的大小平衡和全局方向平衡的同步实现，符合推荐场景的内在特征。离线和在线实验均证明了 GradCraft 在提升推荐领域的多任务性能方面的有效性。GradCraft 的源代码可在 https://github.com/baiyimeng/GradCraft 获取。
引用
@article{arxiv.2407.19682,
title = {GradCraft: Elevating Multi-task Recommendations through Holistic Gradient Crafting},
author = {Yimeng Bai and Yang Zhang and Fuli Feng and Jing Lu and Xiaoxue Zang and Chenyi Lei and Yang Song},
journal= {arXiv preprint arXiv:2407.19682},
year = {2024}
}
备注
Accepted by KDD'24