FiBiNet++:通过低秩特征交互层缩减模型规模用于 CTR 预测
信息检索
2023-08-22 v2 人工智能
摘要
点击率(CTR)估计已成为许多实际应用中最基础的任务之一,各种深度模型被相继提出。一些研究已证明 FiBiNet 是性能最佳的模型之一,并在 Avazu 数据集上优于所有其他模型。然而,FiBiNet 较大的模型规模阻碍了其更广泛的应用。本文中,我们提出一种新颖的 FiBiNet++ 模型来重新设计 FiBiNet 的模型结构,在大幅缩减模型规模的同时进一步提升其性能。主要技术之一是我们提出的聚焦于特征交互的“低秩层”,其作为实现模型更优压缩比的关键驱动因素。在三个公开数据集上的大量实验表明,FiBiNet++ 在三个数据集上将 FiBiNet 的非嵌入模型参数量有效缩减了 12 至 16 倍。另一方面,与包括 FiBiNet 在内的最先进 CTR 方法相比,FiBiNet++ 带来了显著的性能提升。
引用
@article{arxiv.2209.05016,
title = {FiBiNet++: Reducing Model Size by Low Rank Feature Interaction Layer for CTR Prediction},
author = {Pengtao Zhang and Zheng Zheng and Junlin Zhang},
journal= {arXiv preprint arXiv:2209.05016},
year = {2023}
}