论预知负载不平衡对并行应用性能优化的益处

在并行迭代应用中，计算效率对于处理大规模问题至关重要。负载不平衡是并行应用主要的性能退化因素之一。因此，在处理单元（PE）之间巧妙且尽可能均匀地分配工作负载可最大化应用性能。迄今为止，标准负载平衡方法包括在处理单元间均匀分配工作负载，并在出现负载不平衡时将过载处理单元的额外负载重新分配给欠载处理单元。然而，这并未预知在后续迭代中可能持续增长的负载不平衡。在本文中，我们提出了一种新颖负载平衡理念的第一步，该理念将卸载在不久的将来会过载的处理单元，让应用通过其自身动态实现再平衡。在此，我们使用一个简单的数学模型给出新方法的正式定义，并讨论其与标准负载平衡方法相比的优势。除理论研究外，我们将该方法应用于一个复现具有非均匀侵蚀的流体模型计算的应用。性能验证了预知负载不平衡的益处。我们观察到相较于标准负载平衡方法最高达16%的性能提升。