E Pluribus Unum 可解释卷积神经网络
计算机视觉与模式识别
2025-02-18 v1 人工智能
摘要
卷积神经网络(CNN)模型在高风险领域的应用因其无法满足社会对决策透明度的需求而受到阻碍。迄今为止,已出现越来越多用于开发天生可解释的 CNN 模型的方法,但此类模型无法在保持良好性能的同时提供符合人类感知的解释。本文中,我们提出一种新颖的通用框架,用于实例化天生可解释的 CNN 模型,称为 E Pluribus Unum 可解释 CNN(EPU-CNN),以应对这些挑战。EPU-CNN 模型由多个 CNN 子网络组成,每个子网络接收表达某种感知特征(如颜色或纹理)的输入图像的不同表示。EPU-CNN 模型的输出包括分类预测及其解释,解释以输入图像不同区域中感知特征的相对贡献给出。EPU-CNN 模型已在多个公开数据集以及我们贡献的一个基准数据集上进行了广泛评估。医学数据集用于展示 EPU-CNN 在医学中风险敏感决策中的适用性。实验结果表明,EPU-CNN 模型在提供人类可感知的解释的同时,能达到与其他 CNN 架构相当或更优的分类性能。
引用
@article{arxiv.2208.05369,
title = {E Pluribus Unum Interpretable Convolutional Neural Networks},
author = {George Dimas and Eirini Cholopoulou and Dimitris K. Iakovidis},
journal= {arXiv preprint arXiv:2208.05369},
year = {2025}
}
备注
Journal paper under review