COLD：面向下一代预排序系统
信息检索
2020-08-18 v2 人工智能
机器学习
摘要
多阶段级联架构广泛存在于推荐系统和在线广告等许多工业系统中，通常由匹配、预排序、排序等顺序模块组成。长期以来，由于待排序候选集规模更大，人们认为预排序只是排序模块的简化版本。因此，多数工作致力于简化排序模型以应对在线推理算力的爆炸式增长。本文从算法—系统协同设计的视角重新审视预排序系统的挑战。我们不再通过限制模型结构来节省算力（这会造成模型性能损失），而是通过预排序模型与其所耗费算力的联合优化来设计新的预排序系统。我们将其命名为 COLD（Computing power cost-aware Online and Lightweight Deep pre-ranking system，算力成本感知的在线轻量深度预排序系统）。COLD 在三个方面超越 SOTA：（i）在可控算力成本约束下，任意带交叉特征的深度模型均可应用于 COLD。（ii）通过应用推理加速的优化技巧显式降低算力成本，这进一步为 COLD 应用更复杂的深度模型以提升性能留出空间。（iii）COLD 模型以在线学习与在线服务方式工作，使其具备处理数据分布偏移挑战的优异能力。同时，COLD 的全在线预排序系统为我们提供了灵活的基础设施，支持高效的新模型开发与在线 A/B 测试。自 2019 年以来，COLD 已部署于阿里巴巴展示广告系统中几乎所有涉及预排序模块的产品，带来了显著提升。
引用
@article{arxiv.2007.16122,
title = {COLD: Towards the Next Generation of Pre-Ranking System},
author = {Zhe Wang and Liqin Zhao and Biye Jiang and Guorui Zhou and Xiaoqiang Zhu and Kun Gai},
journal= {arXiv preprint arXiv:2007.16122},
year = {2020}
}
备注
accepted by DLP-KDD 2020