ECLAD：基于局部聚合描述子的概念提取
计算机视觉与模式识别
2023-08-14 v3 人工智能
机器学习
摘要
卷积神经网络（CNNs）正日益用于关键系统中，其中鲁棒性与对齐至关重要。在此背景下，可解释人工智能领域提出了通过概念提取生成CNN预测过程的高层解释。虽然这些方法能检测图像中是否存在某概念，却无法确定其位置。此外，由于缺乏恰当的验证流程，对此类方法的公平比较十分困难。为解决这些问题，我们提出一种基于CNN激活图逐像素聚合所得表示的自动概念提取与定位新方法。进一步，我们引入了基于具有主要成分逐像素标注的合成数据集的概念提取技术验证流程，减少了对人工干预的需求。在合成与真实世界数据集上的大量实验表明，我们的方法优于最先进的替代方案。
引用
@article{arxiv.2206.04531,
title = {ECLAD: Extracting Concepts with Local Aggregated Descriptors},
author = {Andres Felipe Posada-Moreno and Nikita Surya and Sebastian Trimpe},
journal= {arXiv preprint arXiv:2206.04531},
year = {2023}
}
备注
34 pages, under review