Facebook基于DNN的个性化推荐的体系结构启示
分布式、并行与集群计算
2020-02-18 v4 机器学习
摘要
深度学习的广泛应用改变了数据中心的计算格局。特别是，用于内容排序的个性化推荐现在很大程度上借助深度神经网络实现。然而，尽管这些模型十分重要且消耗大量计算周期，相对而言很少有研究关注于推荐系统。为促进研究并增进对这些工作负载的理解，本文提出一组真实世界的、生产规模的用于个性化推荐的 DNN，并附上用于评估的相关性能指标。除发布一组开源工作负载外，我们进行了深入分析以支撑未来大规模推荐的体系结构设计优化：推理延迟在三代 Intel 服务器间相差 60%，批处理与推理共置可大幅提升延迟受限的吞吐量，且推荐模型的多样构成导致不同的优化策略。
引用
@article{arxiv.1906.03109,
title = {The Architectural Implications of Facebook's DNN-based Personalized Recommendation},
author = {Udit Gupta and Carole-Jean Wu and Xiaodong Wang and Maxim Naumov and Brandon Reagen and David Brooks and Bradford Cottel and Kim Hazelwood and Bill Jia and Hsien-Hsin S. Lee and Andrey Malevich and Dheevatsa Mudigere and Mikhail Smelyanskiy and Liang Xiong and Xuan Zhang},
journal= {arXiv preprint arXiv:1906.03109},
year = {2020}
}
备注
11 pages