以共识应对可解释机器学习中的不一致

机器学习（ML）模型常以其预测准确性受到重视。然而，在科学的某些领域，模型的内部运作与其准确性同样重要。为理解ML模型如何内部工作，使用可解释性算法是首选方案。遗憾的是，尽管有多样的可用算法，它们在解释模型时常常不一致，导致矛盾的解释。为应对此问题，一旦模型得到解释，便可应用共识函数。然而，问题并未完全解决，因为最终结果将依赖于所选的共识函数及其他因素。本文评估了六种共识函数对五个ML模型的解释。这些模型先前在四个内部规则已知的综合数据集上训练。随后用与模型无关的和全局可解释性算法对模型进行解释。最后，用六种不同函数计算共识，包括作者提出的一种。结果表明，所提函数比其他函数更公平，并提供更一致和准确的解释。