Quantus：一个用于神经网络解释负责任评估及更广泛任务的可解释 AI 工具包
机器学习
2023-04-28 v3
摘要
解释方法的评估是一个尚未被深入探索的研究课题，然而，由于可解释性旨在增强对人工智能的信任，有必要系统地审查和比较解释方法以确认其正确性。迄今为止，尚无专注于 XAI（可解释人工智能）评估的工具能够详尽且快速地让研究人员评估神经网络预测解释的性能。为增加该领域的透明度和可复现性，我们构建了 Quantus——一个用 Python 编写的综合性评估工具包，包含不断增长的、组织良好的评估指标集合以及用于评估可解释方法的教程。该工具包已通过全面测试，并在 PyPi（或 https://github.com/understandable-machine-intelligence-lab/Quantus/）上以开源许可证提供。
引用
@article{arxiv.2202.06861,
title = {Quantus: An Explainable AI Toolkit for Responsible Evaluation of Neural Network Explanations and Beyond},
author = {Anna Hedström and Leander Weber and Dilyara Bareeva and Daniel Krakowczyk and Franz Motzkus and Wojciech Samek and Sebastian Lapuschkin and Marina M. -C. Höhne},
journal= {arXiv preprint arXiv:2202.06861},
year = {2023}
}
备注
4 pages, 1 figure, 1 table