基于预训练图神经网络显式语义交叉特征学习用于CTR预测
人工智能
2021-05-18 v1 信息检索
机器学习
摘要
交叉特征在点击率（CTR）预测中起着重要作用。现有大多数方法采用基于DNN的模型以隐式方式捕获交叉特征。这些隐式方法由于显式语义建模的局限可能导致次优性能。尽管传统的统计显式语义交叉特征能解决这些隐式方法中的问题，但仍面临一些挑战，包括缺乏泛化能力和高昂的内存成本。极少有工作致力于应对这些挑战。本文中，我们迈出了学习显式语义交叉特征的第一步，并提出预训练交叉特征学习图神经网络（PCF-GNN），一种基于GNN的预训练模型，旨在以显式方式生成交叉特征。在公开和工业数据集上进行了大量实验，PCF-GNN在各种任务中均展现出性能和内存效率上的竞争力。
引用
@article{arxiv.2105.07752,
title = {Explicit Semantic Cross Feature Learning via Pre-trained Graph Neural Networks for CTR Prediction},
author = {Feng Li and Bencheng Yan and Qingqing Long and Pengjie Wang and Wei Lin and Jian Xu and Bo Zheng},
journal= {arXiv preprint arXiv:2105.07752},
year = {2021}
}
备注
SIGIR 2021, 5 pages; The first two authors contributed equally to this work; Pengjie Wang gave a lot of guidance in this work