AdaSparse:面向多领域点击率预测的适应性稀疏结构学习
信息检索
2022-07-04 v2 机器学习
摘要
点击率(CTR)预测是推荐与广告系统中的基础技术。近期研究证明,学习统一模型服务多个领域可有效提升整体性能。然而,在有限训练数据下提升跨领域泛化能力仍具挑战,且现有方案因计算复杂度高而难以部署。本文提出一种简洁而高效的多领域 CTR 预测框架 AdaSparse,其为每个领域学习适应性稀疏结构,以更低计算成本实现更好的跨领域泛化。在 AdaSparse 中,我们引入领域感知的神经元级权重因子来衡量神经元重要性,据此每个领域可剪枝冗余神经元以提升泛化。我们进一步添加灵活稀疏正则化以控制所学结构的稀疏比例。离线与在线实验表明,AdaSparse 显著优于以往多领域 CTR 模型。
引用
@article{arxiv.2206.13108,
title = {AdaSparse: Learning Adaptively Sparse Structures for Multi-Domain Click-Through Rate Prediction},
author = {Xuanhua Yang and Xiaoyu Peng and Penghui Wei and Shaoguo Liu and Liang Wang and Bo Zheng},
journal= {arXiv preprint arXiv:2206.13108},
year = {2022}
}