缓存辅助的多租户无服务器计算
分布式、并行与集群计算
2024-08-05 v1
摘要
实现高性能无服务器计算的关键之一是缓解冷启动。当前解决方案利用暖池保持函数活跃：暖启动可类比于CPU缓存命中。然而，现代缓存具有多层级且最后一级缓存被各核心共享，而暖池出于安全考虑仅限于单一租户。此外，暖池保活策略可通过缓存替换算法进一步优化。本文借鉴缓存中的实用优化技术，设计了FaasCamp——一种缓存辅助的多租户无服务器计算框架。FaasCamp将单层暖池扩展为多层，并引入回收池以实现租户间安全的函数实例共享。此外，FaasCamp利用机器学习来近似最优缓存替换策略以提升暖启动率。我们实现了一个原型并在多种场景下进行了广泛实验。结果表明，FaasCamp能够在极低开销下超越现有平台。
引用
@article{arxiv.2408.00957,
title = {Caching Aided Multi-Tenant Serverless Computing},
author = {Chu Qiao and Cong Wang and Zhenkai Zhang and Yuede Ji and Xing Gao},
journal= {arXiv preprint arXiv:2408.00957},
year = {2024}
}