中文

融合至关重要:深度点击-through率预测模型中的融合学习

信息检索 2024-11-26 v1 人工智能

摘要

之前点击-through率(CTR)模型的演进主要是通过提出复杂组件(无论是浅层还是深层)来建模特征交互,但关注度不足。相反,两种天然解决方案,即堆叠融合和并行融合,常被使用。这两种解决方案都依赖于预确定的融合连接和固定的融合操作。反复观察到,融合设计的改变可能导致不同的性能,这凸显了融合在CTR模型中发挥关键作用的重要性。虽然已有尝试细化这些基本融合策略,但这些努力往往受限于特定设置或依赖于特定组件。神经网络搜索也被引入来部分处理融合设计,但存在局限性。搜索空间的复杂性可能导致低效且不有效的结果。为填补这一差距,我们引入OptFusion,一种自动学习融合的方法,涵盖连接学习和操作选择。我们提出了一种一次性学习算法,同时处理这两个任务。我们的实验在三个大型数据集上进行。广泛的实验证明了OptFusion在提高CTR模型性能方面的有效性和效率。我们的代码实现可在 https://github.com/kexin-kxzhang/OptFusion 获得。

关键词

引用

@article{arxiv.2411.15731,
  title  = {Fusion Matters: Learning Fusion in Deep Click-through Rate Prediction Models},
  author = {Kexin Zhang and Fuyuan Lyu and Xing Tang and Dugang Liu and Chen Ma and Kaize Ding and Xiuqiang He and Xue Liu},
  journal= {arXiv preprint arXiv:2411.15731},
  year   = {2024}
}

备注

Accepted by WSDM 2025