用于点击率预测的域嵌入因子分解机
信息检索
2021-06-16 v2 机器学习
机器学习
摘要
点击率(CTR)预测模型广泛应用于数字广告和推荐系统等许多在线应用中。域感知因子分解机(FFM)和域加权因子分解机(FwFM)在CTR预测的浅层模型中处于最先进水平。近来,许多基于深度学习的模型也被提出。在更深模型中,DeepFM、xDeepFM、AutoInt+和FiBiNet为最先进模型。这些更深模型将学习显式特征交互的核心架构组件与深度神经网络(DNN)组件结合。我们提出一种新颖的浅层域嵌入因子分解机(FEFM)及其深层对应模型DeepFEFM。FEFM为每个域对学习对称矩阵嵌入,并为每个特征学习常规的单一向量嵌入。FEFM的模型复杂度显著低于FFM,且与FwFM大致相同。FEFM关于重要域和域交互还具有深刻的数学性质。DeepFEFM将FEFM组件学习的FEFM交互向量与DNN结合,从而能够学习更高阶交互。我们在两个大型公开真实世界数据集上针对广泛超参数进行了综合实验。在比较测试AUC和对数损失时,结果表明FEFM和DeepFEFM优于现有的最先进浅层和深层CTR预测模型。我们已将FEFM和DeepFEFM的代码发布于DeepCTR库(https://github.com/shenweichen/DeepCTR)。
引用
@article{arxiv.2009.09931,
title = {Field-Embedded Factorization Machines for Click-through rate prediction},
author = {Harshit Pande},
journal= {arXiv preprint arXiv:2009.09931},
year = {2021}
}
备注
13 pages