基于分层替代规则集的机器学习模型行为可视化探索
人机交互
2022-01-20 v1 人工智能
机器学习
摘要
模型解释的一种潜在方案是训练替代模型：一种更透明、用以逼近待解释模型行为的模型。通常由于基于逻辑的表达式易于理解，分类规则或决策树被用作替代模型。然而，决策树可能变得过深，而规则集在逼近复杂模型时可能变得过大。与决策树上必须共享祖先节点（条件）的路径不同，规则更为灵活。但规则的非结构化视觉表示使得跨规则推断十分困难。为解决这些问题，我们提出了一套包含新颖算法与交互方案的工作流。首先，我们提出分层替代规则（HSR），一种基于用户定义参数生成分层规则的算法。我们还贡献了 SuRE，一个集成 HSR 与交互式替代规则可视化的视觉分析（VA）系统。特别地，我们提出了一种特征对齐树以克服现有规则可视化的不足。我们从参数敏感性、时间性能及与替代决策树的对比方面评估该算法，发现其扩展性良好且在多方面优于决策树。我们还通过 24 名志愿者的可用性研究与 7 名领域专家的观测研究评估了可视化及 VA 系统。我们的研究表明，参与者能够利用特征对齐树以极高准确率完成非平凡任务。我们还讨论了诸多对未来设计高效基于规则的 VA 系统有益的有趣观察。
引用
@article{arxiv.2201.07724,
title = {Visual Exploration of Machine Learning Model Behavior with Hierarchical Surrogate Rule Sets},
author = {Jun Yuan and Brian Barr and Kyle Overton and Enrico Bertini},
journal= {arXiv preprint arXiv:2201.07724},
year = {2022}
}