记忆、分解或朴素：学习CTR预测的最优特征交互方法
机器学习
2021-11-25 v3 信息检索
摘要
点击率预测是商业推荐系统的核心任务之一，旨在根据用户和物品特征预测用户点击特定物品的概率。由于特征交互引入了非线性，它们被广泛用于提升CTR预测模型的性能。因此，有效建模特征交互在研究和工业界都备受关注。当前方法通常可分为三类：（1）朴素方法，不建模特征交互，仅使用原始特征；（2）记忆方法，通过将特征交互显式视为新特征并分配可训练嵌入来记忆它们；（3）分解方法，为原始特征学习隐向量，并通过分解函数隐式建模特征交互。研究表明，由于不同特征交互的独特特性，仅用其中一种方法建模特征交互是次优的。为解决此问题，我们首先提出了一个名为OptInter的通用框架，为每个特征交互寻找最合适的建模方法。不同的最先进深度CTR模型可视为OptInter的实例。为实现OptInter的功能，我们还引入了一种自动搜索最优建模方法的学习算法。我们在四个大型数据集上进行了广泛实验。实验表明，OptInter将表现最佳的最先进基线深度CTR模型性能提升了高达2.21%。与同样优于基线的记忆方法相比，我们减少了高达91%的参数。此外，我们进行了多项消融研究以探究OptInter不同组件的影响。最后，我们对OptInter的结果提供了可解释的讨论。
引用
@article{arxiv.2108.01265,
title = {Memorize, Factorize, or be Na\"ive: Learning Optimal Feature Interaction Methods for CTR Prediction},
author = {Fuyuan Lyu and Xing Tang and Huifeng Guo and Ruiming Tang and Xiuqiang He and Rui Zhang and Xue Liu},
journal= {arXiv preprint arXiv:2108.01265},
year = {2021}
}
备注
Published in ICDE 2022