基于规则的机器学习解释的形状：一种拓扑学刻画
机器学习
2023-01-24 v1
摘要
基于规则的解释提供了在特征空间中给定点上解释机器学习分类器行为的简单原因。若干近期方法（Anchors、LORE 等）声称能为任意或黑盒分类器生成基于规则的解释。但这些方法为何在一般情况下有效？我们引入了一种针对基于规则解释方法的拓扑框架，并依据分类器相对于解释方案的可定义性给出了可解释性的刻画。我们运用该框架考量多种解释方案，并论证优选方案取决于用户对领域的了解程度以及特征空间上概率测度的掌握情况。
引用
@article{arxiv.2301.09042,
title = {The Shape of Explanations: A Topological Account of Rule-Based Explanations in Machine Learning},
author = {Brett Mullins},
journal= {arXiv preprint arXiv:2301.09042},
year = {2023}
}
备注
Accepted by The AAAI 2023 Workshop on Representation Learning for Responsible Human-Centric AI