预测式自动扩缩容中的持续学习
机器学习
2023-09-06 v2
摘要
预测式自动扩缩容（Predictive Autoscaling）用于预测服务器的工作负载并提前准备资源，以在动态云环境中确保服务等级目标（SLOs）。然而在实践中，其预测任务常因外部事件（如促销活动与应用重配置）引起的异常流量而出现性能下降；对此常用解决方案是利用较长历史周期的数据重新训练模型，但代价是较高的计算与存储成本。为更好地解决该问题，我们提出一种基于回放的持续学习方法，即基于密度的记忆选择与时序提示的网络学习模型（DMSHM），仅使用一小部分历史日志即可实现准确预测。首先，我们发现了在预测任务中应用基于回放的持续学习时存在的样本重叠现象。为克服该挑战并有效整合新样本分布，我们提出一种基于密度的样本选择策略，利用核密度估计计算样本密度作为参考以计算样本权重，并采用加权采样构建新的记忆集。随后我们基于提示表示实现基于提示的网络学习以优化参数。最后，我们在公开与工业数据集上开展实验，证明所提方法在记忆容量与预测精度上优于最先进的持续学习方法。此外，我们展示了 DMSHM 在实际工业应用中的显著实用性。
引用
@article{arxiv.2307.15941,
title = {Continual Learning in Predictive Autoscaling},
author = {Hongyan Hao and Zhixuan Chu and Shiyi Zhu and Gangwei Jiang and Yan Wang and Caigao Jiang and James Zhang and Wei Jiang and Siqiao Xue and Jun Zhou},
journal= {arXiv preprint arXiv:2307.15941},
year = {2023}
}