FAT-DeepFFM：域注意力深度域感知因子分解机
机器学习
2019-05-17 v1 信息检索
摘要
点击率（CTR）估计是个性化广告与推荐系统中的一项基础任务。近年来，基于深度学习的模型与注意力机制在计算机视觉（CV）和自然语言处理（NLP）的各种任务中均取得了成功。如何将注意力机制与深度 CTR 模型相结合是一个有前景的方向，因为它可能融合双方的优势。尽管已提出如注意力因子分解机（AFM）等某些 CTR 模型来建模二阶交互特征权重，我们认为在显式特征交互过程之前评估特征重要性对于 CTR 预测任务同样重要，因为若任务具有大量输入特征，模型可学习选择性地突出信息性特征并抑制用处较小的特征。在本文中，我们提出了一种名为域注意力深度域感知因子分解机（FAT-DeepFFM）的新神经 CTR 模型，通过将深度域感知因子分解机（DeepFFM）与我们提出的作为压缩-激励网络（SENet）增强版的组-激励网络（CENet）域注意力机制相结合来突出特征重要性。我们在两个真实世界数据集上进行了大量实验，实验结果表明 FAT-DeepFFM 取得了最佳性能，并相对最先进方法获得了不同幅度的提升。我们还比较了两类注意力机制（显式特征交互前注意力 vs. 显式特征交互后注意力），并证明前者显著优于后者。
引用
@article{arxiv.1905.06336,
title = {FAT-DeepFFM: Field Attentive Deep Field-aware Factorization Machine},
author = {Junlin Zhang and Tongwen Huang and Zhiqi Zhang},
journal= {arXiv preprint arXiv:1905.06336},
year = {2019}
}
备注
10 pages, 3 figures