GOSH：雾计算环境中基于深度代理模型的任务调度
摘要
近来，使用代理模型的智能调度方法被提出，用于在异构雾环境中高效分配易变任务。确定性代理模型、深度神经网络（DNN）和基于梯度的优化等进展使得低能耗与低响应时间得以实现。然而，用于估计优化目标值的确定性代理模型未考虑服务质量（QoS）目标函数分布中的不确定性，这可能导致高服务等级协议（SLA）违规率。此外，DNN 训练本身的脆弱性阻碍此类模型达到最小能耗或响应时间。为克服这些困难，我们提出一种新型调度器：GOSH，即基于二阶导与异方差深度代理模型的梯度优化（Gradient Based Optimization using Second Order derivatives and Heteroscedastic Deep Surrogate Models）。GOSH 采用二阶基于梯度的优化方法以获得更好的 QoS 并减少收敛至调度决策所需的迭代次数，进而降低调度时间。GOSH 使用自然参数网络而非普通 DNN 来近似目标得分。进一步地，下置信界优化方法使 GOSH 能够通过基于误差的探索，在贪婪最小化平均延迟与降低不确定性之间找到最优权衡。因此，GOSH 及其基于协同仿真的扩展 GOSH* 能够快速适应并达到优于基线方法的目标得分。我们表明 GOSH* 比 GOSH 达到更好的目标得分，但其仅适用于高资源可用性场景，而 GOSH 适合资源受限场景。GOSH 与 GOSH* 的真实系统实验显示，在能耗、响应时间和 SLA 违规方面分别比最先进水平提升达 18%、27% 和 82%。
引用
@article{arxiv.2112.08916,
title = {GOSH: Task Scheduling Using Deep Surrogate Models in Fog Computing Environments},
author = {Shreshth Tuli and Giuliano Casale and Nicholas R. Jennings},
journal= {arXiv preprint arXiv:2112.08916},
year = {2021}
}
备注
Accepted in IEEE Transactions on Parallel and Distributed Systems (Special Issue on PDC for AI), 2022