中文

START:基于编码器 LSTM 网络的云计算环境掉队者预测与缓解

分布式、并行与集群计算 2021-11-22 v1 性能

摘要

现代大规模计算系统将作业拆分为多个较小任务并行执行,以加速作业完成并降低能耗。然而,此类系统的一个常见性能问题是处理掉队者任务(即运行缓慢的实例,会拉长整体响应时间)。这类任务会显著影响系统的服务质量(QoS)与服务等级协议(SLA)。为应对此问题,需要能够在违反 SLA 前自动检测并缓解掉队者的机制。已有工作通常构建先检测后缓解的反应式模型,导致延迟;其他工作采用基于预测的主动机制,却忽略异构主机或易变任务特征。本文提出掉队者预测与缓解技术(START),可预测哪些任务可能成为掉队者并动态调整调度以降低响应时间。我们的技术基于计算和网资源消耗,利用编码器长短期记忆(LSTM)网络分析所有任务与主机,该网络输出用于预测并缓解预期的掉队者任务,从而在保障 QoS 的前提下降低 SLA 违反率与执行时间。具体地,我们使用 CloudSim 工具包在云环境中仿真 START,并与前沿技术(IGRU-SD、SGC、Dolly、GRASS、NearestFit 和 Wrangler)在能耗、执行时间、资源争用、CPU 利用率与 SLA 违反率等 QoS 参数上比较。实验表明,相较前沿方法,START 分别降低执行时间、资源争用、能耗与 SLA 违反率 13%、11%、16% 与 19%。

关键词

引用

@article{arxiv.2111.10241,
  title  = {START: Straggler Prediction and Mitigation for Cloud Computing Environments using Encoder LSTM Networks},
  author = {Shreshth Tuli and Sukhpal Singh Gill and Peter Garraghan and Rajkumar Buyya and Giuliano Casale and Nicholas R. Jennings},
  journal= {arXiv preprint arXiv:2111.10241},
  year   = {2021}
}

备注

Accepted in IEEE Transactions on Services Computing, 2021