OmniXAI：一个可解释 AI 库
机器学习
2022-12-13 v8 人工智能
计算机视觉与模式识别
摘要
我们介绍 OmniXAI（Omni eXplainable AI 的缩写），一个开源的 Python 可解释 AI（XAI）库，其提供全方位可解释 AI 能力与多种可解释机器学习技术，以解决实践中理解并解释机器学习（ML）决策这一痛点。OmniXAI 旨在成为一站式综合库，使数据科学家、ML 研究人员与从业者能轻松进行可解释 AI，他们需要在 ML 过程的不同阶段（数据探索、特征工程、模型开发、评估与决策等）针对各类数据、模型与解释方法获得解释。特别地，我们的库包含集成于统一接口中的丰富解释方法族，支持多种数据类型（表格数据、图像、文本、时间序列）、多种 ML 模型类型（Scikit-learn 中的传统 ML 与 PyTorch/TensorFlow 中的深度学习模型），以及一系列多样的解释方法，包括“模型特定”与“模型无关”方法（如特征归因解释、反事实解释、基于梯度的解释等）。对于从业者，该库提供易用的统一接口，仅需编写几行代码即可为其应用生成解释，并提供用于可视化不同解释以获得决策更多洞察的 GUI 仪表盘。在本技术报告中，我们呈现 OmniXAI 的设计原则、系统架构与主要功能，并演示跨不同数据类型、任务与模型的若干示例用例。
引用
@article{arxiv.2206.01612,
title = {OmniXAI: A Library for Explainable AI},
author = {Wenzhuo Yang and Hung Le and Tanmay Laud and Silvio Savarese and Steven C. H. Hoi},
journal= {arXiv preprint arXiv:2206.01612},
year = {2022}
}
备注
Github repo: https://github.com/salesforce/OmniXAI