STLGT：面向微服务尾延迟预测的可扩展基于 Trace 的线性图变换器
机器学习
2026-04-30 v1 人工智能
摘要
准确的端到端尾延迟预测对于主动管理微服务系统的 SLO 至关重要。然而，在保持大规模推理效率的同时，对长程依赖传播和非平稳、突发工作负载建模 remains 挑战。我们提出 STLGT（Scalable Trace-based Linear Graph Transformer），一个针对每个 API 的预测器，将 Trace 编码为跨越图以进行多步 p95 尾延迟预测。STLGT 使用结构感知的线性图变换器在跨服务依赖项上进行传播，推理时间与跨越图大小成线性关系，并通过解耦的时间模块捕获工作负载动态。在一个个人化教育微服务应用、DeathStarBench 和阿里巴巴 Trace 上，STLGT 在 MAPE 上平均提高了 8.5%，在 N=32 时实现最高 12 倍的 CPU 推理速度，经过预处理阿里巴巴 Trace 后，匹配最大跨越图大小。消融研究进一步证明了每个组件的有效性，尤其是在突发流量下。
关键词
引用
@article{arxiv.2604.26422,
title = {STLGT: A Scalable Trace-Based Linear Graph Transformer for Tail Latency Prediction in Microservices},
author = {Yongliang Ding and Qigong Bi and Peng Pu},
journal= {arXiv preprint arXiv:2604.26422},
year = {2026}
}
备注
12 pages, 5 figures, 4 tables, conference