DPA 负载均衡器:面向数据并行基于 Actor 系统的负载均衡
分布式、并行与集群计算
2023-08-03 v1
摘要
在本项目中,我们探索在流式框架中动态负载均衡 actor 的方法。这用于解决可能导致掉队者的输入数据倾斜。我们持续监控 actor 的输入队列长度以衡量负载,并在检测到掉队者时使用一致性哈希在 reducer 间重新分配输入。为确保重分配后处理的一致性,我们采用结合输入转发与处理末尾状态合并步骤的方法。我们表明该方法可大幅缓解倾斜数据下的掉队者问题。
引用
@article{arxiv.2308.00938,
title = {DPA Load Balancer: Load balancing for Data Parallel Actor-based systems},
author = {Ziheng Wang and Atem Aguer and Amir Ziai},
journal= {arXiv preprint arXiv:2308.00938},
year = {2023}
}
备注
7 pages