GLocalX——从局部到全局的黑盒AI模型解释

人工智能（AI）已成为我们社会的主要组成部分之一，应用于生活的方方面面。在该领域中，集成模型、深度神经网络和支持向量机等复杂且高度非线性的机器学习模型在解决复杂任务时一直表现出卓越的准确性。尽管准确，AI模型通常是我们无法理解的“黑盒”。依赖这些模型具有多方面的影响，并引发了对它们透明性的重大关切。在敏感和关键领域的应用是试图理解黑盒行为的强烈动机。我们提出通过在黑盒模型之上提供可解释层来聚合“局部”解释以解决此问题。我们提出GLocalX，一种“局部优先”的模型无关解释方法。从以局部决策规则形式表达的局部解释出发，GLocalX通过分层聚合将它们迭代地推广为全局解释。我们的目标是学习准确而简单的可解释模型来模拟给定的黑盒，并尽可能完全替代它。我们在标准及受限设置（对数据或局部解释访问有限或无权访问）下的一组实验中验证了GLocalX。实验表明，GLocalX能够用简单且小巧的模型准确模拟多个模型，达到与天然全局解决方案相比的state-of-the-art性能。我们的发现表明，即使在具有高维数据的复杂领域中，也常常可以在不牺牲一方换取另一方的情况下实现分类模型准确率和可理解性的高水平兼得。这是可信AI的关键要求，对于在高风险决策应用中的采用必不可少。