Leaf-FM：一种用于点击率预测的可学习特征生成因子分解机
信息检索
2021-07-27 v1 人工智能
摘要
点击率（CTR）预测在个性化广告和推荐系统中起着重要作用。尽管近年来已提出许多模型，如 FM、FFM 和 DeepFM，特征工程在许多应用中仍是提升模型性能的重要方式，因为使用原始特征很少能带来最优结果。例如，连续特征通常通过添加一个新特征被变换为幂形式，以使其容易形成该特征的非线性函数。然而，这类特征工程严重依赖人的经验，且既耗时又耗力。另一方面，兼具快速在线服务速度和良好模型性能的简洁 CTR 模型对许多实际应用至关重要。在本文中，我们提出基于 FM 的 LeafFM 模型，通过自动学习变换函数从原始特征嵌入生成新特征。我们还根据组合原始特征与生成特征的不同策略设计了三种具体的 Leaf-FM 模型。在三个真实世界数据集上进行了大量实验，结果表明 Leaf-FM 模型大幅优于标准 FM。与 FFM 相比，Leaf-FM 可用少得多的参数实现显著更好的性能。在 Avazu 和 Malware 数据集上，加法版 Leaf-FM 取得了与 DNN 和 AutoInt 等某些基于深度学习的模型相当的性能。作为改进的 FM 模型，Leaf-FM 在在线服务阶段与 FM 具有相同的计算复杂度，这意味着 Leaf-FM 因其更好的性能和更高的计算效率而适用于许多工业应用。
引用
@article{arxiv.2107.12024,
title = {Leaf-FM: A Learnable Feature Generation Factorization Machine for Click-Through Rate Prediction},
author = {Qingyun She and Zhiqiang Wang and Junlin Zhang},
journal= {arXiv preprint arXiv:2107.12024},
year = {2021}
}