昆仙异常排查器：面向大模型分布式推理的内核级异常检测与因果推理
机器学习
2025-11-11 v1 人工智能
分布式、并行与集群计算
性能
摘要
大模型分布式推理 (LMDI) 的异常排查仍是关键挑战。解决推理性能下降或延迟波动等异常问题需要来自领域专家的大量手动工作，导致诊断过程极其耗时且准确率相对较低。本文引入昆仙异常排查器 (KAT)，首个专为 LMDI 设计的异常排查框架。KAT 通过两大核心创新实现该问题。其一，KAT 利用 GPU 工作节点的同步性与一致性，创新性地利用函数轨迹数据，在纳秒级精度下精确检测内核级异常及其关联硬件组件。其二，KAT 将上述检测结果整合进领域适配的大语言模型，提供系统化的因果推理与自然语言异常症状解释。在阿里云服务生产环境下的评估表明，KAT 在异常检测方面实现 0.884 的精确率与 0.936 的召回率，提供详尽的异常洞察显著缩小诊断范围，提升排查效率与成功率。
引用
@article{arxiv.2511.05978,
title = {Kunlun Anomaly Troubleshooter: Enabling Kernel-Level Anomaly Detection and Causal Reasoning for Large Model Distributed Inference},
author = {Yuyang Liu and Jingjing Cai and Jiayi Ren and Peng Zhou and Danyang Zhang and Yin Du and Shijian Li},
journal= {arXiv preprint arXiv:2511.05978},
year = {2025}
}
备注
Preprint version, under submission