黑盒决策系统的基于局部规则的解释
人工智能
2018-05-29 v1
摘要
近年来准确但晦涩的决策系统兴起，其向用户隐藏了内部决策过程的逻辑。黑盒系统决策缺乏解释是一个关键伦理问题，也是机器学习组件在社会敏感与安全关键场景中采用的局限。本文关注黑盒结果解释问题，即解释在特定实例上采取决策的原因。我们提出 LORE，一种能够提供可解释且忠实解释的与模型无关的方法。LORE 首先通过遗传算法生成的合成邻域上学习一个局部可解释预测器。然后从局部可解释预测器的逻辑中导出有意义的解释，包括：解释决策原因的一条决策规则；以及一组反事实规则，建议改变实例特征以得到不同结果。大量实验表明，LORE 在解释质量与模仿黑盒的准确度上均优于现有方法与基线。
引用
@article{arxiv.1805.10820,
title = {Local Rule-Based Explanations of Black Box Decision Systems},
author = {Riccardo Guidotti and Anna Monreale and Salvatore Ruggieri and Dino Pedreschi and Franco Turini and Fosca Giannotti},
journal= {arXiv preprint arXiv:1805.10820},
year = {2018}
}