基于 Hessian 的物理中可靠且可解释机器学习的工具箱

应用于量子多体物理的机器学习（ML）技术已成为一个新的研究领域。尽管该方法的数值能力无可否认，但最具表达力的 ML 算法（如神经网络）是黑箱：用户既不知道模型预测背后的逻辑，也不知道模型预测的不确定性。在本工作中，我们提出一个与模型架构无关的可解释性与可靠性工具箱。具体而言，它提供给定测试点上输入数据对预测影响程度的度量、模型预测不确定性的估计，以及模型预测的外推分数。此类工具箱仅需对训练损失函数计算一次 Hessian。我们的工作为在应用于物理及更广义科学的 ML 中系统性使用可解释性与可靠性方法开辟了道路。