利用基于热力图的可解释AI提升深度神经网络分类置信度
机器学习
2023-01-24 v3 人工智能
摘要
本文量化了基于热力图的可解释AI（XAI）方法在图像分类问题上的质量。此处，若热力图能提升预测正确类的概率，则被视为理想的。经验表明，不同XAI基于热力图的方法依数据集不同在提升分类置信度上程度各异，例如Saliency在ImageNet上最佳，Deconvolution在Chest X-Ray Pneumonia数据集上最佳。创新点包括一种新的差距分布，显示出正确与错误预测间的显著差异。最后，引入生成增强解释，一种能生成可将预测置信度提升至高水平热力图的方法。
引用
@article{arxiv.2201.00009,
title = {Improving Deep Neural Network Classification Confidence using Heatmap-based eXplainable AI},
author = {Erico Tjoa and Hong Jing Khok and Tushar Chouhan and Guan Cuntai},
journal= {arXiv preprint arXiv:2201.00009},
year = {2023}
}