优化内容分发网络缓存的替换策略：超越 Belady 以达成看似不可达的字节未命中率
网络与互联网体系结构
2022-12-29 v1
摘要
当内容分发网络（CDN）缓存中面临大小不同的对象/文件时，通过近似 Belady 来追求最优对象未命中率（OMR）不再能保证最优字节未命中率（BMR），这给如何在 CDN 中实现更优 BMR 带来了困惑。为解决该问题，我们通过实验观察到存在一个时间窗口，可延迟驱逐重用距离最长的对象，从而在不增加 OMR 的情况下改善 BMR。据此，我们引入一个深度强化学习（RL）模型，通过动态监测 OMR 和 BMR 的变化来捕捉该时间窗口，并在窗口内实施对 BMR 友好的策略。基于该策略，我们提出一种 Belady 与大小驱逐（LRU-BaSE）算法，在保持 OMR 的同时降低 BMR。为使 LRU-BaSE 高效且实用，我们以双管齐下的方式解决 RL 的反馈延迟问题。一方面，我们观察到 LRU 缓存队列的后段包含了大部分驱逐候选，使 LRU-BaSE 得以缩短决策区域；另一方面，CDN 上的请求分布使得将学习区域划分为多个子区域可行，每个子区域以更短时间、更高精度学习。在真实 CDN 系统中，与 LRU 相比，LRU-BaSE 平均可分别降低“回源到操作系统”流量与访问延迟 30.05% 和 17.07%。模拟器上的结果证实 LRU-BaSE 优于最先进的缓存替换策略，其 BMR 平均比 Belady 和基于流量的实用离线最优（PFOO）分别低 0.63% 和 0.33%。此外，与 Learning Relaxed Belady（LRB）相比，LRU-BaSE 在面对工作负载漂移时能保持相对稳定的性能。
引用
@article{arxiv.2212.13671,
title = {Optimizing Replacement Policies for Content Delivery Network Caching: Beyond Belady to Attain A Seemingly Unattainable Byte Miss Ratio},
author = {Peng Wang and Yu Liu},
journal= {arXiv preprint arXiv:2212.13671},
year = {2022}
}