基于相互学习的点击率预测模型微调

Ibrahim Can Yilmaz; Said Aldemir

基于相互学习的点击率预测模型微调

信息检索 2024-06-19 v1 机器学习

作者: Ibrahim Can Yilmaz , Said Aldemir

摘要

点击率（CTR）预测已成为数字行业（如数字广告或在线购物）中的关键任务。许多基于深度学习的方法已被实现并在该领域成为最先进的模型。为了进一步提高CTR模型的性能，已广泛采用基于知识蒸馏的方法。然而，大多数当前的CTR预测模型都没有相当复杂的架构，因此难以将其中一个称为“笨重”，另一个称为“微型”。此外，复杂模型和简单模型之间的性能差距也并不很大，因此将一种模型的知识蒸馏到另一种模型可能并不值得投入。基于上述考虑，相互学习可能是更好的选择，因为所有模型都能相互改进。本文展示了在模型彼此相等的情况下，相互学习算法如何有效。我们在Criteo和Avazu数据集上的实验表明，相互学习算法使模型性能提升了最高可达0.66%的相对改进。

关键词

点击率预测知识蒸馏相互学习深度学习模型性能

引用

@article{arxiv.2406.12087,
  title  = {Mutual Learning for Finetuning Click-Through Rate Prediction Models},
  author = {Ibrahim Can Yilmaz and Said Aldemir},
  journal= {arXiv preprint arXiv:2406.12087},
  year   = {2024}
}

备注

7 pages, 2 figures, 4 tables

基于相互学习的点击率预测模型微调

摘要

关键词

引用

备注

相关论文