RuleMatrix：利用规则可视化和理解分类器
机器学习
2018-07-18 v1 人工智能
人机交互
机器学习
摘要
随着机器学习技术日益广泛的应用，使机器学习系统更加透明和可解释的研究兴趣激增。已开发各种可视化方法以帮助模型开发者理解、诊断和改进机器学习模型。然而，大量潜在却被忽视的用户是几乎不懂机器学习但需要使用机器学习系统的领域专家。在本文中，我们提出一种交互式可视化技术，以帮助缺乏机器学习专业知识的用户理解、探索和验证预测模型。通过将模型视为黑箱，我们从其输入输出行为中提取标准化的基于规则的知识表示。我们设计了RuleMatrix，一种基于矩阵的规则可视化方法，以帮助用户浏览和验证规则及黑箱模型。我们通过两个用例和一项可用性研究评估了RuleMatrix的有效性。
引用
@article{arxiv.1807.06228,
title = {RuleMatrix: Visualizing and Understanding Classifiers with Rules},
author = {Yao Ming and Huamin Qu and Enrico Bertini},
journal= {arXiv preprint arXiv:1807.06228},
year = {2018}
}
备注
Accepted by IEEE Conference of Visual Analytics Science and Technology 2018