弹性计算中基于存储与下载的 Dual-Lagrange 编码
信息论
2025-01-30 v1 分布式、并行与集群计算
math.IT
摘要
编解码弹性计算使虚拟机能够在高优先级任务到来时被抢占,同时允许新虚拟机无缝加入 ongoing 计算。本文针对具有抗 straggler 容错的矩阵-矩阵乘法采用 Lagrange 编码实现存储与下载编码。2018年,Yang 等人提出首个针对矩阵-矩阵乘法的编解码弹性计算方案,达到了较低的计算负载要求。然而,该方案缺乏抗 straggler 容错且上传成本高。Zhong 等人(2023)后者采用无编码存储和 Lagrange 编码下载,解决了这些问题。但其方法要求每台机器存储整个数据集。本文引入新型弹性计算方案,利用 Lagrange 码对存储与下载进行编码,实现较小的存储规模。所提方案高效缓解弹性与 straggler 效应,存储规模降至Zhong等人方法的1/L,代价为下载成本翻倍。我们在AWS EC2上评估了所提方案,通过测量在异构分配与循环分配下的计算时间。两种分配均最小化系统计算冗余,同时在机器之间分布不同计算负载。
引用
@article{arxiv.2501.17275,
title = {Dual-Lagrange Encoding for Storage and Download in Elastic Computing for Resilience},
author = {Xi Zhong and Samuel Lu and Joerg Kliewer and Mingyue Ji},
journal= {arXiv preprint arXiv:2501.17275},
year = {2025}
}
备注
6 pages, 3 figures