TimeTrader：利用延迟尾部为在线数据密集型应用节省数据中心能耗
分布式、并行与集群计算
2015-03-19 v1
摘要
运行在线数据密集型应用（OLDIs）的数据中心消耗大量能源。然而，由于其严格的响应时间要求，降低能耗颇具挑战。OLDIs 的一个关键方面是，每个用户查询都会发往集群中的所有或许多节点，因此整体时间预算由回复延迟分布的尾部决定；回复在网络和计算方面均存在延迟变化。先前的工作提出通过直接基于响应时间在较低数据中心负载下减缓计算来实现与负载成比例的节能（即在较低负载下，该方案利用了为峰值负载预留的时间预算中的平均松弛量）。相比之下，我们提出 TimeTrader，通过利用在截止日期前到达的次关键回复中的延迟松弛来降低能耗（例如，80% 的回复比尾部快 3-4 倍）。这种松弛存在于所有负载下，并涵盖了先前工作中与负载相关的松弛。虽然先前的工作通过移动叶节点的响应时间分布来在低负载下消耗松弛量，但 TimeTrader 通过减缓单个次关键节点而不增加错过截止日期的情况，在所有负载下重塑分布。TimeTrader 利用了网络和计算预算中的松弛。此外，TimeTrader 利用最早截止时间优先（Earliest Deadline First）调度，在很大程度上将关键请求与次关键请求的排队延迟解耦，从而可以在不损害关键请求的情况下减缓次关键请求。真实系统测量与大规模模拟的结合表明，在不增加错过截止日期的情况下，TimeTrader 在拥有 512 个节点的数据中心中，分别在 90% 和 30% 负载下节省了 15-19% 和 41-49% 的能源，而先前的工作分别节省了 0% 和 31-37%。
引用
@article{arxiv.1503.05338,
title = {TimeTrader: Exploiting Latency Tail to Save Datacenter Energy for On-line Data-Intensive Applications},
author = {Balajee Vamanan and Hamza Bin Sohail and Jahangir Hasan and T. N. Vijaykumar},
journal= {arXiv preprint arXiv:1503.05338},
year = {2015}
}
备注
13 pages