面向网络延迟的 TTL 缓存层级效用驱动优化
网络与互联网体系结构
2024-05-08 v1
摘要
我们在随机网络延迟下优化基于生存时间（TTL）的缓存层级。TTL 缓存为每个缓存对象分配单独的淘汰计时器，通常在命中时刷新，而在未命中时则需要从父级缓存获取该对象，耗时随机。由于其对象解耦特性，TTL 缓存尤为有趣，因为对单个对象的效用优化可实现服务差异化。然而，现有方法的精确 TTL 缓存优化已无法拓展到单一 TTL 缓存，尤其是在网络延迟下。在本文中，我们利用对象解耦效应，将 TTL 缓存层级的非线性效用最大化问题表述为在随机网络延迟下对每个对象的精确命中概率。我们迭代求解效用最大化问题，以找到最佳的每个对象 TTL。进一步地，我们指出精确模型在大型层级下存在可计算性问题，提出一种机器学习方法来估计大型系统的最优 TTL 值。最后，我们提供数值评估和数据中心轨迹基准评估，显示在考虑网络延迟的情况下，TTL 优化显著提高了缓存卸载效果。
引用
@article{arxiv.2405.04402,
title = {Utility-driven Optimization of TTL Cache Hierarchies under Network Delays},
author = {Karim S. Elsayed and Fabien Geyer and Amr Rizk},
journal= {arXiv preprint arXiv:2405.04402},
year = {2024}
}