多云预报：云中通信延迟的可预测性如何？
分布式、并行与集群计算
2023-09-26 v1 网络与互联网体系结构
摘要
许多系统与服务依赖时序假设来保障性能与可用性，以执行操作的关键环节，例如故障检测器的各类超时或并发控制机制的优化。此类假设多依赖不同组件按时通信的能力——通信延迟可能触发故障检测器或导致系统进入欠优化执行模式。遗憾的是，这些时序假设常极少顾及底层基础设施的实际通信保障，尤其是不同节点/服务器间进程通信延迟的波动性。对于部署于公有云的系统，更高的通信波动性尤为显著，因为云是由众多用户与组织共享的 utility，因噪邻综合征而易产生更高性能方差。本工作中，我们提出云延迟测试仪 (CLT)，一种可帮助测量节点间通信延迟波动性的简易工具，以协助工程师为其时序假设设定恰当取值。我们还提供了在三大主流云提供商中运行 CLT 的观测分析，并分享所得经验。
引用
@article{arxiv.2309.13169,
title = {Cloudy Forecast: How Predictable is Communication Latency in the Cloud?},
author = {Owen Hilyard and Bocheng Cui and Marielle Webster and Abishek Bangalore Muralikrishna and Aleksey Charapko},
journal= {arXiv preprint arXiv:2309.13169},
year = {2023}
}