SCION:面向非平稳对象缓存的大小感知策略编排(长论文版)
分布式、并行与集群计算
2026-05-05 v1 人工智能
摘要
对象缓存支撑着云端和边缘服务,但生产工作负载具有异构性、非平稳性及吞吐量受限等特点。近期诸如 SIEVE 和 S3-FIFO 等简单非机器学习策略已构成强有力的基准线,因此任何学习型方法都必须在开销感知、抗漂移鲁棒以及与专家竞争方面表现出色。我们提出 SCION,一个轻量级策略编排框架,通过计算从关键路径外部计算的微型工作负载指纹,在小型可部署缓存策略集合中进行选择。我们的原型 AUTO 使用对象大小、缓存性、复用性及缓存大小的短前缀统计,然后应用在离线训练好的线性选择器,在 GDSF、S3-FIFO、SIEVE、LHD、W-TinyLFU-AV 和 DynamicAdaptiveClimb 之间进行选择;更简洁的 SCION-P90 变体仅使用 p90 阈值。在仅使用 CPU 的、基于 trace 的评估中,我们在 30 个公共对象缓存 trace 以及独立的 HR-Cache 模拟器子集上进行测试,AUTO 在大多数工作负载上相对于 SIEVE 实现了更低的可缓存对象缺失率,平均保持对单一专家的表现相近,能够实现明确的 OMR/BMR 权衡选择,并在字节缺失率方面仍保持竞争力。在快速策略预算下,AUTO-fast 实现的成本低于最佳固定快速策略。SCION 在保持热路径不变的同时降低了制度错配风险。
引用
@article{arxiv.2605.01055,
title = {SCION: Size-aware Policy Orchestration for Nonstationary Object Caches (Long Paper Version)},
author = {Qizhi Wang},
journal= {arXiv preprint arXiv:2605.01055},
year = {2026}
}
备注
17 pages, 4 figures, 26 tables. Code repository: https://github.com/Icemap/SCION