VAE-LIME：基于深度生成模型的局部数据驱动模型可解释性方法及其在高炉炼铁工业中的应用
机器学习
2020-07-21 v1 人工智能
机器学习
摘要
应用于生成数据驱动模型的机器学习缺乏透明度，导致工艺工程师对依赖模型预测来优化工业过程失去信心。利用数据驱动模型使工业过程达到一定程度的自主性尤其具有挑战性，因为这些模型的第一个使用者往往是具有数十年经验的工艺专家。有必要向工艺工程师展示的不仅仅是模型预测，还有其可解释性。为此，文献中已提出若干方法。局部可解释模型无关解释（LIME）方法近来引起了研究界的极大兴趣。该方法的原理是通过在局部随机生成人工数据点，训练一个线性模型来局部近似黑盒模型。基于LIME的模型无关局部可解释性方案近来不断涌现以改进原始方法。本文提出一种新方法VAE-LIME，用于预测高炉所产铁水温度的数据驱动模型的局部可解释性。此类炼铁过程数据以高度互相关的多变量时间序列为特征，表征高炉内的底层过程。我们的贡献在于使用变分自编码器（VAE）从数据中学习复杂的高炉过程特征。VAE旨在生成最优人工样本，以训练局部可解释模型，更好地表示黑盒模型在由黑盒模型处理输入样本进行预测时的邻域内的行为。与LIME相比，VAE-LIME显著提升了局部可解释线性模型与黑盒模型的局部保真度，从而实现稳健的模型可解释性。
引用
@article{arxiv.2007.10256,
title = {VAE-LIME: Deep Generative Model Based Approach for Local Data-Driven Model Interpretability Applied to the Ironmaking Industry},
author = {Cedric Schockaert and Vadim Macher and Alexander Schmitz},
journal= {arXiv preprint arXiv:2007.10256},
year = {2020}
}