一种解释不通用：AI 可解释性技术的工具包与分类法
人工智能
2019-09-17 v2 计算机视觉与模式识别
人机交互
机器学习
摘要
随着人工智能和机器学习算法进一步深入社会，来自多方利益相关者要求这些算法解释其输出的呼声日益高涨。同时，这些利益相关者，无论是受影响的公民、政府监管者、领域专家还是系统开发者，对解释提出了不同的需求。为满足这些需求，我们推出了 AI Explainability 360 (http://aix360.mybluemix.net/)，一个开源软件工具包，包含八种多样且最先进的可解释性方法和两种评估指标。同样重要的是，我们提供了一个分类法，帮助需要解释的实体在解释方法的领域中导航，不仅涵盖工具包中的方法，也包括更广泛的可解释性文献中的方法。对于数据科学家和工具包的其他用户，我们实现了一个可扩展的软件架构，根据方法在 AI 建模流程中的位置对其进行组织。我们还讨论了将研究创新更贴近解释消费者的增强功能，包括算法的简化、更易访问的版本，以及教程和交互式网络演示，以向不同受众和应用领域介绍 AI 可解释性。我们的工具包和分类法共同有助于识别需要更多可解释性方法的空白领域，并提供一个平台，以便在方法开发出来时将其纳入。
引用
@article{arxiv.1909.03012,
title = {One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques},
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilović and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
journal= {arXiv preprint arXiv:1909.03012},
year = {2019}
}