基于非负概念激活向量与决策树的CNN模型概念级解释方法
密码学与安全
2022-11-22 v1
摘要
本文评估了基于从概念级解释器提取的概念训练决策树，是否能够提升卷积神经网络 (CNNs) 模型的可解释性，并增强所用解释器的保真度与性能。用于计算机视觉的CNN在关键行业中表现出卓越性能。然而，由于其复杂性和缺乏可解释性，在部署CNN时存在重大障碍。近期解释计算机视觉模型的研究已从提取低级特征（基于像素的解释）转向中高级特征（基于概念的解释）。当前研究方向倾向于在开发近似算法（如线性或决策树模型）中使用提取的特征来解释原始模型。在本工作中，我们修改了一种最先进的概念级解释方法，并提出了一个名为TreeICE的替代框架。我们基于保真度（近似模型逼近原始模型标签）、性能（近似模型逼近真值标签）和可解释性（近似模型对人类有意义）的要求设计了系统评估。我们进行了计算评估（针对保真度与性能）和人体受试者实验（针对可解释性）。我们发现Tree-ICE在可解释性上优于基线，并生成了更易于人类阅读的语义树结构形式的解释。本工作凸显了在可解释性至关重要时拥有更易理解的解释的重要性。
引用
@article{arxiv.2211.10806,
title = {AiCEF: An AI-assisted Cyber Exercise Content Generation Framework Using Named Entity Recognition},
author = {Alexandros Zacharis and Constantinos Patsakis},
journal= {arXiv preprint arXiv:2211.10806},
year = {2022}
}