FeatureBox：面向海量规模广告系统的 GPU 特征工程
信息检索
2022-10-17 v1 机器学习
摘要
深度学习已广泛部署于在线广告系统以预测点击率（CTR）。机器学习研究者和从业者经常重新训练 CTR 模型以测试其新提取的特征。然而，CTR 模型训练通常依赖大量原始输入数据日志。因此，对于工业级 CTR 模型，特征提取可能占据训练时间的很大比例。本文中，我们提出 FeatureBox，一种新颖的端到端训练框架，其在 GPU 服务器上流水线化特征提取与训练，以节省特征提取的中间 I/O。我们将计算密集的特征提取算子重写为 GPU 算子，而将内存密集的算子留在 CPU 上。我们引入逐层算子调度算法来调度这些异构算子。我们提出一种轻量级 GPU 内存管理算法，以最小开销支持动态 GPU 内存分配。我们在两个真实世界广告应用上将 FeatureBox 与先前生产中的特征提取框架进行实验比较。结果证实了我们提出方法的有效性。
引用
@article{arxiv.2210.07768,
title = {FeatureBox: Feature Engineering on GPUs for Massive-Scale Ads Systems},
author = {Weijie Zhao and Xuewu Jiao and Xinsheng Luo and Jingxue Li and Belhal Karimi and Ping Li},
journal= {arXiv preprint arXiv:2210.07768},
year = {2022}
}