中文

DPA 负载均衡器:面向数据并行基于 Actor 系统的负载均衡

分布式、并行与集群计算 2023-08-03 v1

摘要

在本项目中,我们探索在流式框架中动态负载均衡 actor 的方法。这用于解决可能导致掉队者的输入数据倾斜。我们持续监控 actor 的输入队列长度以衡量负载,并在检测到掉队者时使用一致性哈希在 reducer 间重新分配输入。为确保重分配后处理的一致性,我们采用结合输入转发与处理末尾状态合并步骤的方法。我们表明该方法可大幅缓解倾斜数据下的掉队者问题。

关键词

引用

@article{arxiv.2308.00938,
  title  = {DPA Load Balancer: Load balancing for Data Parallel Actor-based systems},
  author = {Ziheng Wang and Atem Aguer and Amir Ziai},
  journal= {arXiv preprint arXiv:2308.00938},
  year   = {2023}
}

备注

7 pages