扩展 CPU 基于深度 FFM 的技巧，以实现每秒超过 3000 万预测

Blaž Škrlj; Benjamin Ben-Shalom; Grega Gašperšič; Adi Schwartz; Ramzi Hoseisi; Naama Ziporin; Davorin Kopič; Andraž Tori

扩展 CPU 基于深度 FFM 的技巧，以实现每秒超过 3000 万预测

机器学习 2024-07-16 v1 人工智能信息检索

作者: Blaž Škrlj , Benjamin Ben-Shalom , Grega Gašperšič , Adi Schwartz , Ramzi Hoseisi , Naama Ziporin , Davorin Kopič , Andraž Tori

在 arXiv 上查看 ↗ PDF ↗

摘要

Field-aware Factorization Machines (FFMs) 已成为预测点击-through rate (CTR) 的强大模型，尤其擅长捕捉复杂的特征交互。在本工作中，我们深入分析了自研的基于 Rust 的 Deep FFM 实现，并详细说明其在 CPU-only、跨数据中心规模上的部署。我们概述了为训练和推断设计的关键优化措施，由此产生了此前未公开的高效模型搜索和在线训练基准结果。进一步，我们详细说明了自研的权重量化技术，使相关带宽占用在数据中心之间传输时降低了一个数量级。我们披露了引擎及其技术，采用开源许可证以促进更广泛的机器学习社区。本文展示了首批成功在如此规模的 CPU-only 部署中运行 Deep FFMs，标志着在实际、低占用的 CTR 预测方法学中取得了重要进展。

关键词

因子分解机点击率预测 CPU 优化权重量化深度学习

引用

@article{arxiv.2407.10115,
  title  = {A Bag of Tricks for Scaling CPU-based Deep FFMs to more than 300m Predictions per Second},
  author = {Blaž Škrlj and Benjamin Ben-Shalom and Grega Gašperšič and Adi Schwartz and Ramzi Hoseisi and Naama Ziporin and Davorin Kopič and Andraž Tori},
  journal= {arXiv preprint arXiv:2407.10115},
  year   = {2024}
}

备注

6p, KDD2024 - AdKDD workshop

扩展 CPU 基于深度 FFM 的技巧，以实现每秒超过 3000 万预测

摘要

关键词

引用

备注

相关论文