DeforestVis:基于代理决策桩的机器学习模型行为分析
机器学习
2024-04-19 v5 人机交互
摘要
随着机器学习(ML)模型复杂度的增加及其在不同(且关键的)领域中的应用增长,对更可解释和可信赖的ML的需求强烈。一种直接的、模型无关的解释此类模型的方法是训练代理模型——如规则集和决策树——它们充分近似原始模型,同时更简单且更易解释。然而,规则集可能变得非常冗长,带有许多if-else语句,且当准确模拟复杂ML模型时决策树深度迅速增长。在此类情况下,两种方法都可能无法实现其核心目标——为用户提供模型可解释性。为此,我们提出DeforestVis,一种可视化分析工具,通过提供利用自适应提升(AdaBoost)技术生成的代理决策桩(一级决策树)来总结复杂ML模型的行为。DeforestVis通过增量生成更多决策桩、创建基于属性的带权决策桩解释以证明决策合理性,以及分析规则覆盖对训练实例在一个或多个决策桩间分配的影响,帮助用户探索复杂度与保真度之间的权衡。独立测试集允许用户监控手动规则变更的有效性并基于逐案例的分析形成假设。我们通过两个用例以及与数据分析师和模型开发者的专家访谈展示了DeforestVis的适用性和有用性。
引用
@article{arxiv.2304.00133,
title = {DeforestVis: Behavior Analysis of Machine Learning Models with Surrogate Decision Stumps},
author = {Angelos Chatzimparmpas and Rafael M. Martins and Alexandru C. Telea and Andreas Kerren},
journal= {arXiv preprint arXiv:2304.00133},
year = {2024}
}
备注
This manuscript is accepted for publication in Computer Graphics Forum (CGF)