用于多领域推荐的自适应条件专家选择网络
机器学习
2024-11-12 v1 信息检索
摘要
专家混合模型近期已成为多领域推荐的默认标准，因其强大的表达能力。然而，此类基于专家混合的方法通常对每个实例使用所有专家，导致可扩展性问题以及领域与专家之间的低区分度。此外，常用的领域特定网络的设计加剧了可扩展性问题。为解决这些问题，我们提出了一种名为 CESAA 的新方法，由条件专家选择模块和自适应专家聚合模块组成。具体而言，CES 首先将稀疏门控策略与领域共享专家相结合。然后 AEA 利用互信息损失来增强专家与特定领域之间的相关性，并显著提高专家之间的区分度。因此，每个实例仅激活领域共享专家和所选的领域特定专家，在计算效率与模型性能之间取得平衡。在公开排序数据集和工业检索数据集上的实验结果验证了我们方法在多领域推荐任务中的有效性。
引用
@article{arxiv.2411.06826,
title = {Adaptive Conditional Expert Selection Network for Multi-domain Recommendation},
author = {Kuiyao Dong and Xingyu Lou and Feng Liu and Ruian Wang and Wenyi Yu and Ping Wang and Jun Wang},
journal= {arXiv preprint arXiv:2411.06826},
year = {2024}
}