SCLIFD：面向有限故障数据下增量故障诊断的监督对比知识蒸馏
机器学习
2023-02-14 v1
摘要
智能故障诊断目前已取得非凡进展。然而，极少有工作处理有限故障数据下的类增量学习故障诊断，即不平衡与长尾故障诊断，这带来了诸多显著挑战。首先，从有限故障数据中提取判别性特征十分困难。此外，训练良好的模型必须从头重新训练以分类来自新类的样本，从而造成高昂的计算负担与耗时。进而，模型在增量训练时可能遭受灾难性遗忘。最后，由于类不平衡，模型决策偏向于新类。这些问题会导致故障诊断模型性能下降。为此，我们引入一种面向有限故障数据下增量故障诊断的监督对比知识蒸馏（SCLIFD）框架以解决这些问题，其从三个角度扩展了经典增量分类器与表示学习（iCaRL）框架。主要地，我们采用监督对比知识蒸馏（KD）以增强其在有限故障数据下的表示学习能力。此外，我们提出一种新颖的优先样本选择方法——自适应启发式（AdaHerding）以限制计算负担的增加，并将其与 KD 结合以缓解灾难性遗忘。另外，我们采用余弦分类器来减轻类不平衡的负面影响。我们在不同不平衡比例下的仿真与真实工业过程上进行了广泛实验。实验结果表明，我们的 SCLIFD 大幅优于现有方法。
引用
@article{arxiv.2302.05929,
title = {SCLIFD:Supervised Contrastive Knowledge Distillation for Incremental Fault Diagnosis under Limited Fault Data},
author = {Peng Peng and Hanrong Zhang and Mengxuan Li and Gongzhuang Peng and Hongwei Wang and Weiming Shen},
journal= {arXiv preprint arXiv:2302.05929},
year = {2023}
}