Centaur：一种基于小芯片、稀疏-稠密混合的个性化推荐加速器
分布式、并行与集群计算
2020-05-14 v1 信息检索
机器学习
摘要
个性化推荐是支撑云数据中心所服务的若干重要应用领域（如广告、电子商务等）的骨干机器学习（ML）算法。稀疏嵌入层是设计推荐系统的关键构建模块，然而却鲜有工作 properly 加速这一重要ML算法。本文首先对个性化推荐进行了详细的工作负载表征，并识别出两个显著的性能瓶颈：内存密集的嵌入层与计算密集的多层感知机（MLP）层。随后我们提出Centaur，一种基于小芯片（chiplet）的稀疏-稠密混合加速器，同时应对嵌入层的内存吞吐挑战与MLP层的计算限制。我们在Intel HARPv2（一种封装集成的CPU+FPGA器件）上实现并演示了我们的方案，相比传统方法取得了1.7-17.2倍的性能加速与1.7-19.5倍的能效提升。
引用
@article{arxiv.2005.05968,
title = {Centaur: A Chiplet-based, Hybrid Sparse-Dense Accelerator for Personalized Recommendations},
author = {Ranggi Hwang and Taehun Kim and Youngeun Kwon and Minsoo Rhu},
journal= {arXiv preprint arXiv:2005.05968},
year = {2020}
}
备注
Accepted for publication at the 47th IEEE/ACM International Symposium on Computer Architecture (ISCA-47), 2020