概念树：用于更具可解释性的替代决策树的变量高层表示
机器学习
2019-06-05 v1 机器学习
摘要
在高维表格数据集上训练的黑盒预测器的可解释替代模型，在存在相关变量时可能难以生成可理解的解释。我们提出一种模型无关的可解释替代模型，提供对黑盒分类器的全局与局部解释以解决此问题。我们引入概念的思想，即由领域专家定义或利用相关系数自动发现的直观变量分组。概念被嵌入替代决策树中以增强其可理解性。在包含 134 个变量的宏观经济数据库 FRED-MD 上的初步实验表明，在保持替代模型准确率与保真度的同时，人类可解释性得到提升。
引用
@article{arxiv.1906.01297,
title = {Concept Tree: High-Level Representation of Variables for More Interpretable Surrogate Decision Trees},
author = {Xavier Renard and Nicolas Woloszko and Jonathan Aigrain and Marcin Detyniecki},
journal= {arXiv preprint arXiv:1906.01297},
year = {2019}
}
备注
presented at 2019 ICML Workshop on Human in the Loop Learning (HILL 2019), Long Beach, USA