一种用于图像分类问题的可解释人工智能新模型
计算机视觉与模式识别
2023-07-11 v1 人工智能
摘要
近年来，人工智能正日益广泛应用于许多不同领域，并对人类生活产生深远而直接的影响。随之而来的是理解模型做出预测原理的需求。由于当前大多数高精度模型都是黑盒，无论是 AI 科学家还是终端用户都难以深入理解这些模型内部发生了什么。因此，许多算法被研究用于解释 AI 模型，尤其是计算机视觉领域图像分类问题中的模型，如 LIME、CAM、GradCAM。然而，这些算法仍有局限性，例如 LIME 执行时间长、CAM 对具体性和清晰性的解释令人困惑。因此，本文中我们提出一种称为分割-类激活映射（SeCAM）的新方法，它结合了上述算法的优点，同时克服了它们的缺点。我们在多种模型上测试了该算法，包括来自 ImageNet 大规模视觉识别挑战赛（ILSVRC）数据集的 ResNet50、Inception-v3、VGG16。当算法以极简时间满足具体解释的所有要求时，取得了出色的结果。
引用
@article{arxiv.2307.04137,
title = {A Novel Explainable Artificial Intelligence Model in Image Classification problem},
author = {Quoc Hung Cao and Truong Thanh Hung Nguyen and Vo Thanh Khang Nguyen and Xuan Phong Nguyen},
journal= {arXiv preprint arXiv:2307.04137},
year = {2023}
}
备注
Published in the Proceedings of FAIC 2021