符号回归中的可解释性：使用费曼数据集的解释方法基准

在某些情况下，机器学习模型的可解释性与模型准确性同等重要。可解释性源于需要信任预测模型、验证其某些属性，甚至强制执行这些属性以提高公平性。存在许多模型无关的解释方法，用于为黑箱模型提供解释。在回归任务中，实践者可以使用白箱或灰箱模型来获得更可解释的结果，符号回归就是这种情况。当使用解释方法时，由于可解释性缺乏严格定义，需要评估和比较不同解释器的质量。本文提出了一个基准方案来评估解释回归模型（主要是符号回归模型）的解释方法。实验使用了100个物理方程，结合不同的可解释和不可解释回归方法以及流行的解释方法，通过几种解释度量评估了解释器的性能。此外，我们进一步分析了来自遗传规划社区的四个基准。结果表明，符号回归模型可以成为白箱和黑箱模型的一个有趣替代方案，能够返回具有适当解释的准确模型。关于解释器，我们观察到部分效应和SHAP是最稳健的解释模型，而积分梯度仅对基于树的模型不稳定。该基准可公开用于进一步实验。