可解释矩阵——随机森林分类集成的全局与局部可解释性可视化
机器学习
2020-12-11 v2 机器学习
摘要
在过去几十年中，分类模型因其在各个领域的潜力和适用性，已被证明是必不可少的机器学习工具。这些年来，大多数研究者的方向一直是改善定量指标，尽管这些指标传达的关于模型决策的信息十分匮乏。这种范式最近发生了转变，除了表格和数字之外，辅助解释模型决策的策略越来越重要。作为这一趋势的一部分，可视化技术已被广泛用于支持分类模型的可解释性，其中很大一部分重点是基于规则的模型。尽管取得了一些进展，但现有方法在视觉可扩展性方面存在局限性，且对大型复杂模型（如随机森林（RF）技术产生的模型）的可视化仍然是一个挑战。在本文中，我们提出了可解释矩阵（ExMatrix），一种用于 RF 可解释性的新颖可视化方法，能够处理包含大量规则的模型。它采用了一种简单而强大的类矩阵视觉隐喻，其中行是规则，列是特征，单元格是规则谓词，从而能够分析整个模型并审计分类结果。ExMatrix 的适用性通过不同的示例得到了证实，展示了如何在实践中使用它来促进 RF 模型的可解释性。
引用
@article{arxiv.2005.04289,
title = {Explainable Matrix -- Visualization for Global and Local Interpretability of Random Forest Classification Ensembles},
author = {Mário Popolin Neto and Fernando V. Paulovich},
journal= {arXiv preprint arXiv:2005.04289},
year = {2020}
}
备注
IEEE VIS VAST 2020