关于科学机器学习中可解释性的定义与重要性

尽管神经网络在大数据集上进行训练后，已成功用于描述和预测许多物理现象，但在科学家看来，与由简单数学表达式组成的传统科学模型不同，他们的发现无法被整合到科学知识的主体中。对机器学习无法产生人类可理解关系的批评者们聚集在“可解释性”这一概念上，将其作为其与更传统科学形式区别的出发点。随着对可解释性日益增长的关注，来自物理科学领域的研究者并不仅仅寻求预测模型，还希望揭示支配特定系统的基本原理。然而，关于可解释性定义以及其在科学中精确作用的澄清在文献中仍显不足。本文中，我们认为方程发现和符号回归研究者往往混淆了稀疏性与可解释性的概念。我们审查了来自科学界之外的可解释机器学习关键论文，认为尽管他们提出的定义和方法可以为科学机器学习(SciML)的问题提供可解释性见解，但它们不足以满足这一新需求。鉴于这些不足之处，我们提出了一种针对物理科学的可操作性可解释性定义。我们对可解释性的概念强调对机制的理解，而非数学稀疏性。虽然这种对机制的关注看似无害，但它表明稀疏性往往是不必要的。它还质疑在缺乏先验知识时，可解释的科学发现是否可能。我们相信，科学机器学习中一个精确且以哲学为导向的可解释性定义将有助于将研究力量集中于实现数据驱动科学未来的最重要障碍。