AI Explainability 360：影响与设计
机器学习
2022-01-26 v1 人工智能
摘要
随着人工智能和机器学习算法在社会中日益普及，多方利益相关者呼吁这些算法提供解释。同时，这些利益相关者，无论是受影响的公民、政府监管者、领域专家还是系统开发者，对解释的需求各不相同。为了满足这些需求，我们于 2019 年创建了 AI Explainability 360 (Arya et al. 2020)，这是一个开源软件工具包，包含十种多样且最先进的可解释性方法以及两个评估指标。本文通过几个案例研究、统计数据和社区反馈检验了该工具包的影响。用户体验 AI Explainability 360 的不同方式带来了多种类型的影响和多方面指标的改善，这一点已由独立的 LF AI & Data Foundation 采用该工具包而得到印证。本文还描述了该工具包的灵活设计、使用示例，以及为用户提供的大量教育材料和文档。
引用
@article{arxiv.2109.12151,
title = {AI Explainability 360: Impact and Design},
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovic and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
journal= {arXiv preprint arXiv:2109.12151},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:1909.03012