面向大型基础设施故障诊断的深度学习模型XAI输出自动化处理
计算机视觉与模式识别
2025-03-20 v1 人工智能
摘要
深度学习模型用于识别大型基础设施组件健康状态时，可能存在偏差并依赖非因果捷径。可解释人工智能(XAI)可解决此问题，但手动分析XAI技术生成的解释耗时且易出错。本工作提出一种新框架，将后置解释与半监督学习结合，用于自动识别偏离正确分类图像解释的异常解释，从而可能指示模型异常行为。这显著减少了维护决策者的工作负担，他们只需手动重新分类被标记为异常解释的图像。该框架应用于无人机采集的绝缘子壳体图像，用于电网基础设施监测，考虑两种不同的卷积神经网络(CNN)、GradCAM解释和深度半监督异常检测。两种故障类别的平均分类准确率提高了8%，维护操作员仅需手动重新分类15%的图像。我们将该框架与基于可信度度量的前沿方法进行比较：实验结果表明，所提框架持续获得的F₁分数高于可信度方法。此外，所提框架成功识别了因绝缘子壳体印有ID标签等非因果捷径导致的正确分类。
引用
@article{arxiv.2503.15415,
title = {Automated Processing of eXplainable Artificial Intelligence Outputs in Deep Learning Models for Fault Diagnostics of Large Infrastructures},
author = {Giovanni Floreale and Piero Baraldi and Enrico Zio and Olga Fink},
journal= {arXiv preprint arXiv:2503.15415},
year = {2025}
}