DCAF：面向在线服务系统的动态计算分配框架
网络与互联网体系结构
2020-06-18 v1 人工智能
信号处理
摘要
现代大规模系统如推荐系统与在线广告系统构建于计算密集型基础设施之上。这些应用的典型目标是在有限计算资源下最大化总收益，例如GMV（商品交易总额）。通常，在线服务系统遵循多阶段级联架构，包含检索、预排序、排序等多个阶段。这些阶段通常以特定算力预算手动分配资源，要求服务配置相应适配。因此，现有系统极易陷入相对于最大化总收益的次优解。该局限源于：尽管流量请求价值差异巨大，在线服务系统仍对其耗费均等算力。本文提出一种新思路：在线服务系统可差异化对待每个流量请求，并基于其价值分配“个性化”计算资源。我们将该资源分配问题建模为背包问题，并提出动态计算分配框架（DCAF）。在若干一般假设下，DCAF可从理论上保证系统在给定计算预算内最大化总收益。DCAF带来了显著提升，并已部署于淘宝展示广告系统以服务主流量。借助DCAF，我们能够在计算资源减少20%的情况下保持相同的业务性能。
引用
@article{arxiv.2006.09684,
title = {DCAF: A Dynamic Computation Allocation Framework for Online Serving System},
author = {Biye Jiang and Pengye Zhang and Rihan Chen and Binding Dai and Xinchen Luo and Yin Yang and Guan Wang and Guorui Zhou and Xiaoqiang Zhu and Kun Gai},
journal= {arXiv preprint arXiv:2006.09684},
year = {2020}
}