纠删码数据中心的优化修复分层:从理论到实践
分布式、并行与集群计算
2017-09-18 v2
摘要
在分层数据中心中,修复性能常常受跨机架网络传输的瓶颈限制。近期理论结果表明,跨机架修复流量可通过修复分层最小化,其思想是将修复操作划分为机架内和跨机架层。然而,修复分层应如何在实际中实施和部署仍是一个开放问题。在本文中,我们通过提出一个名为 DoubleR 的实用修复分层框架来解决此问题。我们设计了两类实用的双再生码(DRC),其不仅最小化跨机架修复流量,而且具有若干改进最先进再生码的实际特性。我们在 Hadoop 分布式文件系统(HDFS)之上实现并部署了 DoubleR,并展示 DoubleR 保持了 DRC 的理论保证,并在节点恢复和降级读操作中改善了再生码的修复性能。
引用
@article{arxiv.1704.03696,
title = {Optimal Repair Layering for Erasure-Coded Data Centers: From Theory to Practice},
author = {Yuchong Hu and Xiaolu Li and Mi Zhang and Patrick P. C. Lee and Xiaoyang Zhang and Pan Zhou and Dan Feng},
journal= {arXiv preprint arXiv:1704.03696},
year = {2017}
}
备注
24 pages. Accepted by ACM Transactions on Storage