基于上下文重要性与效用的黑盒模型预测解释
人工智能
2020-06-02 v1 机器学习
摘要
自主系统的重大进展以及应用领域的极大扩展，增加了对可信智能系统的需求。可解释人工智能正受到研究人员与开发者的相当关注以应对该需求。尽管关于可解释与透明机器学习算法的工作不断增多，但它们大多面向技术用户。在许多可用且实际的应用中，面向终端用户的解释被忽视了。本工作中，我们提出上下文重要性（CI）与上下文效用（CU）概念，以提取易被专家及新手用户理解的解释。该方法无需将模型转换为可解释模型即可解释预测结果。我们给出一个为线性与非线性模型提供解释的示例，以展示方法的通用性。CI 与 CU 为数值，可以可视化与自然语言形式呈现给用户，以证明行为合理并解释针对个体样本、情形与上下文的推理。我们通过汽车选择示例与 Iris 花分类展示解释效用，给出完整解释（即个体预测的原因）与对比解释（即对比样本与关注样本）。实验结果表明所提供解释方法的可行性与有效性。
引用
@article{arxiv.2006.00199,
title = {Explanations of Black-Box Model Predictions by Contextual Importance and Utility},
author = {Sule Anjomshoae and Kary Främling and Amro Najjar},
journal= {arXiv preprint arXiv:2006.00199},
year = {2020}
}