具有已知与预测服务时间的超市模型

超市模型指具有大量队列的系统，新顾客随机选取 d 个队列并加入顾客数最少者。该模型展示了即便少量选择相对于简单均匀随机加入队列而言，对负载均衡系统的强大作用。本工作中，我们基于仿真研究考察若干变体，其中顾客的服务时间被预测，正如现代环境中可能使用机器学习技术或相关机制所做的那样。我们的主要结论是，在此背景下，即便看似微弱的服务时间预测也能相较于盲目的先进先出排队带来显著收益。然而，当使用预测的服务时间信息同时选择队列和队列内服务排序时须稍加留意；虽然在许多情况下将信息同时用于选择与排序是有益的，但在我们许多仿真设定中发现，当使用预测服务时间对队列中作业排序时，仅用作业数选择队列反而更好。在仿真中，我们评估了合成与真实工作负载——后者服务时间由机器学习预测。我们的结果为真实系统的设计提供了实用指导；此外，我们留下了诸多自然的理论开放问题供未来工作，并验证了它们与现实情境的相关性。