面向全局与局部可解释性的隐式可解释专家混合模型
机器学习
2022-12-02 v1 计算机视觉与模式识别
摘要
我们研究在 MNIST10 上使用可解释专家混合（MoIE）构建可解释图像分类器的可行性。MoIE 使用黑盒路由器将每个输入分配给多个固有可解释专家之一，从而提供为何作出特定分类决策的洞见。我们发现，朴素训练的 MoIE 会学会“作弊”，即黑盒路由器自行解决分类问题，而每个专家仅简单学习某一特定类的常数函数。我们提出通过引入可解释路由器并训练黑盒路由器的决策以匹配可解释路由器来解决此问题。此外，我们提出一种新颖的隐式参数化方案，允许我们构建任意数量专家的混合，从而研究随着专家数量增加，分类性能、局部与全局可解释性如何变化。我们的新模型被称为隐式可解释专家混合（IMoIE），能在 MNIST10 上匹配最先进分类准确率的同时提供局部可解释性，并且能提供全局可解释性，尽管代价是分类准确率下降。
引用
@article{arxiv.2212.00471,
title = {Implicit Mixture of Interpretable Experts for Global and Local Interpretability},
author = {Nathan Elazar and Kerry Taylor},
journal= {arXiv preprint arXiv:2212.00471},
year = {2022}
}