打开黑箱：数据驱动的黑箱决策系统解释
人工智能
2018-06-27 v1 计算机与社会
机器学习
摘要
用于自动决策的黑箱系统通常基于（大）数据上的机器学习，将用户特征映射为类别或分数而不暴露原因。这不仅因缺乏透明性而成问题，也因算法中隐藏的可能偏见——源于人类偏见及训练数据中隐藏的收集伪影——可能导致不公平或错误决策。我们引入黑箱解释的局部到全局框架，一种具有可喜早期成果的新颖方法，为沿三个维度的广泛未来发展铺平道路：（i）用以高度表达性基于逻辑的规则表达解释的语言，带有统计与因果解释；（ii）旨在揭示黑箱为目标实例所采用决策逻辑的局部解释推断，通过在目标实例邻近处查询与审计黑箱实现；（iii）将众多局部解释自底向上泛化为简单全局解释，配以优化解释质量与可理解性的算法。
引用
@article{arxiv.1806.09936,
title = {Open the Black Box Data-Driven Explanation of Black Box Decision Systems},
author = {Dino Pedreschi and Fosca Giannotti and Riccardo Guidotti and Anna Monreale and Luca Pappalardo and Salvatore Ruggieri and Franco Turini},
journal= {arXiv preprint arXiv:1806.09936},
year = {2018}
}