一种计算中层输入特征相关性的通用方法
机器学习
2021-03-04 v2 计算机视觉与模式识别
摘要
本工作在可解释人工智能（XAI）背景下，提出了一种新颖的通用框架，用于基于中层特征构建机器学习（ML）模型行为的解释。在 XAI 中可提供两种不同类型的解释：低层与中层解释。中层解释被引入以缓解低层解释的一些不足，例如在图像分类背景下，人类用户仍背负沉重的解释负担：从低层解释出发，必须识别对人工视觉系统而言在感知上显著的整体输入属性。然而，文献中从未提出过一种通用方法，用以针对 ML 模型响应正确评估中层解释的各要素。
引用
@article{arxiv.2010.08639,
title = {A general approach to compute the relevance of middle-level input features},
author = {Andrea Apicella and Salvatore Giugliano and Francesco Isgrò and Roberto Prevete},
journal= {arXiv preprint arXiv:2010.08639},
year = {2021}
}
备注
Presented on the Explainable Deep Learning/AI (EDL/AI) Workshop during the 25th International Conference on Pattern Recognition (ICPR2020)