数据集复杂度对模型解释器是否有影响？
机器学习
2021-11-18 v2 人工智能
摘要
基于可解释人工智能（Explainable Artificial Intelligence, XAI）的策略已在计算领域出现，以促进对黑盒模型预测更好的理解。当今使用的大多数 XAI 度量解释此类模型，生成旨在解释模型的属性排序，即模型属性重要性分析。目前对于哪种 XAI 度量能生成整体可解释性排序尚无共识。为此，出现了若干工具提案（Ciu、Dalex、Eli5、Lofo、Shap 与 Skater）。本文提出了一个可解释 AI 技术的实验基准，其能够基于与不同问题及集成模型相关的表格数据生成全局可解释性排序。旨在回答诸如“不同度量生成的解释是相同的、相似的还是不同的？”以及“数据复杂度如何影响模型可解释性？”等问题。构建 82 个计算模型与 592 个排序的结果，为可解释性问题的另一面——数据集复杂度——提供了一些启示。
引用
@article{arxiv.2107.02661,
title = {Does Dataset Complexity Matters for Model Explainers?},
author = {José Ribeiro and Raíssa Silva and Lucas Cardoso and Ronnie Alves},
journal= {arXiv preprint arXiv:2107.02661},
year = {2021}
}
备注
9 pages, 6 figures. Accepted to IEEE BigData 2021 - Special session paper