具有概念瓶颈模型的可解释性预测

Florent Forest; Katharina Rombach; Olga Fink

具有概念瓶颈模型的可解释性预测

机器学习 2024-05-29 v1 信号处理机器学习

作者: Florent Forest , Katharina Rombach , Olga Fink

摘要

深度学习方法最近被广泛用于工业资产的预测，但仍存在解释性不足的问题，这阻碍了其在安全关键应用中的采用。为提高可信度，已将可解释人工智能(XAI)技术应用于预测，主要是通过事后归因方法量化输入变量对剩余有用寿命(RUL)预测的重要性。本文提出将概念瓶颈模型(CBMs)——一种基于概念解释的内在可解释神经网络架构——应用于RUL预测任务。与归因方法不同，概念代表了易于用户理解的高级信息。此外，一旦在实际应用中验证，CBMs允许领域专家在测试时干预概念激活。我们提议将资产的不同退化模式作为中间概念。针对用于RUL预测的新商业模块化航空推进系统仿真(N-CMAPSS)数据集进行案例研究，结果表明CBMs的性能可以与黑箱模型相当或更好，同时更具可解释性，即使可用标签概念有限。代码地址为\href{https://github.com/EPFL-IMOS/concept-prognostics/}{\url{github.com/EPFL-IMOS/concept-prognostics/}}。

关键词

概念瓶颈模型可解释预测剩余有用寿命预测可解释人工智能 RUL预测

引用

@article{arxiv.2405.17575,
  title  = {Interpretable Prognostics with Concept Bottleneck Models},
  author = {Florent Forest and Katharina Rombach and Olga Fink},
  journal= {arXiv preprint arXiv:2405.17575},
  year   = {2024}
}

备注

Under review

具有概念瓶颈模型的可解释性预测

摘要

关键词

引用

备注

相关论文