化学过程故障检测系统的可解释性
机器学习
2026-02-19 v1
摘要
本文应用并比较了两种领先的可解释人工智能（XAI）方法，即集成梯度（Integrated Gradients, IG）和Shapley可加解释（SHapley Additive exPlanations, SHAP），来解释高度精确的长短期记忆（Long Short-Time Memory, LSTM）分类器的故障诊断决策。该分类器被训练用于检测基准非线性化学过程——田纳东曼过程（Tennessee Eastman Process, TEP）中的故障。我们强调，XAI方法如何帮助识别故障发生的子系统。通过对过程的了解，我们注意到在大多数情况下，相同特征被指示为最重要的决策特征，而在某些情况下，SHAP方法似乎更具信息性，接近故障的根本原因。最后，由于所使用的XAI方法是模型无关的，该方法不局限于特定过程，可用于类似问题。
引用
@article{arxiv.2602.16341,
title = {Explainability for Fault Detection System in Chemical Processes},
author = {Georgios Gravanis and Dimitrios Kyriakou and Spyros Voutetakis and Simira Papadopoulou and Konstantinos Diamantaras},
journal= {arXiv preprint arXiv:2602.16341},
year = {2026}
}