面向容错计算的可持续学习混合专家模型
机器学习
2025-12-15 v2
摘要
智能容错（FT）计算最近在预测和诊断故障方面展现出显著优势，从而确保服务的可靠性。然而，由于故障知识的异构性、动态工作负载以及数据支持有限，现有的基于深度学习的FT算法在故障检测质量和训练效率方面面临挑战。这主要是因为其对故障知识感知的同质化化，难以充分捕捉多样化和复杂的故障模式。为此，我们提出FT-MoE，一个基于双路径架构的可持续学习容错计算框架，实现高精度故障检测和分类。该模型采用混合专家（MoE）架构，使不同参数能够学习不同的故障知识。此外，我们采用两阶段学习方案，将综合离线训练与持续在线调谐相结合，使模型能够适应应对变化的实时工作负载。为便于现实评估，我们构建了一个用于边缘网络的故障检测和分类数据集，包含10,000个时间间隔，具有细粒度资源特征，远超现有数据集在规模和细节方面的表现。最后，我们在FT基准上进行大量实验，验证了FT-MoE的有效性。结果表明，该模型优于最先进的方法。
引用
@article{arxiv.2504.20446,
title = {FT-MoE: Sustainable-learning Mixture of Experts for Fault-Tolerant Computing},
author = {Wenjing Xiao and Wenhao Song and Miaojiang Chen and Min Chen},
journal= {arXiv preprint arXiv:2504.20446},
year = {2025}
}