超越拟解释、基于视觉与粒度方法的可解释机器学习综述

本文综述机器学习的视觉可解释性方法，重点从机器学习中占主导的拟解释转向由粒度视觉支持的领域特定解释。机器学习解释本质上是一种人类活动，而视觉方法更易于理解。尽管存在高效的高维数据视觉表征，但可解释信息的丢失、遮挡与杂乱仍是导致拟解释的挑战。我们从动机与可解释性的不同定义出发。本文聚焦于拟解释与领域特定解释之间、以及可解释模型与真正被解释的机器学习模型之间的明确区分，这些对可解释性领域至关重要。我们讨论可解释性的基础，概述视觉可解释性并呈现若干可视化机器学习模型的方法类型。接着，我们基于最近提出的通用线坐标（General Line Coordinates, GLC）概念，呈现视觉发现机器学习模型的方法，重点关注可解释模型。这些方法迈出了关键一步，所创建的视觉解释不仅是拟解释，也是领域特定的视觉解释，而方法本身与领域无关。本文包含关于在下维中保持 n 维距离的理论极限结果（基于 Johnson-Lindenstrauss 引理）、点对点与点到图 GLC 方法，以及真实案例研究。本文还涵盖理解机器学习模型的传统视觉方法，包括深度学习与时间序列模型。我们指出其中许多方法是拟解释，需进一步增强以成为领域特定解释。最后我们勾勒开放问题与当前研究前沿。