受热力学启发的人工智能解释方法

近年来，预测性机器学习方法在各科学领域日益突出。然而，由于其黑盒性质，在将这些模型接受为准确之前，建立对它们的信任至关重要。一种有前景的信任赋予策略是采用解释技术，以人类可理解的方式阐明黑盒模型预测背后的原理。然而，评估此类方法生成的原理的人类可解释程度是一项非平凡挑战。本工作中，我们引入解释熵作为评估任意线性模型相关人类可解释程度的通用解。利用该概念并受经典热力学启发，我们提出TERP（受热力学启发的AI及其他黑盒范式可解释表示），一种以模型无关方式为黑盒预测生成准确且人类可解释解释的方法。为展示TERP的广泛适用性，我们成功将其用于解释多种黑盒模型架构，包括深度学习自编码器、循环神经网络和卷积神经网络，横跨分子模拟、文本和图像分类等不同领域。