xDeepInt：一种建模向量级与位级特征交互的混合架构
机器学习
2023-01-04 v1 人工智能
信息检索
机器学习
摘要
学习特征交互是大规模 CTR 预测与推荐成功的关键。在实践中，手工特征工程通常需要穷举搜索。为降低特征工程中人力成本，研究者提出了若干基于深度神经网络（DNN）的方法，以端到端方式学习特征交互。然而，现有方法要么不能同时学习向量级交互和位级交互，要么无法以可控方式组合它们。本文中，我们提出一种新模型 xDeepInt，基于一种称为多项式交互网络（PIN）的新颖网络架构，该架构递归地学习高阶向量级交互。通过集成子空间交叉机制，我们使 xDeepInt 能在有界阶数下平衡向量级与位级特征交互的混合。基于该网络架构，我们定制了一种组合优化策略来进行特征选择与交互选择。我们实现了所提模型，并在三个真实世界数据集上评估了模型性能。实验结果表明 xDeepInt 相较于最先进（SOTA）模型的有效性与优越性。我们开源了 xDeepInt 的 TensorFlow 实现：https://github.com/yanyachen/xDeepInt。
引用
@article{arxiv.2301.01089,
title = {xDeepInt: a hybrid architecture for modeling the vector-wise and bit-wise feature interactions},
author = {YaChen Yan and Liubo Li},
journal= {arXiv preprint arXiv:2301.01089},
year = {2023}
}