用于概念发现的稀疏子空间聚类（SSCCD）
机器学习
2022-03-14 v1 人工智能
机器学习
摘要
概念是人类高层理解的关键构建块。可解释 AI（XAI）方法近年来取得巨大进展，然而局部归因方法无法识别跨样本的连贯模型行为，因而缺失这一本质组分。本工作中，我们研究基于概念的阐释并提出将概念全新定义为隐藏特征层的低维子空间。我们新颖地应用稀疏子空间聚类来发现这些概念子空间。进一步，我们从概念子空间导出局部化输入（概念）图方面的洞见，展示如何量化概念相关性，最后评估概念间的相似性与可迁移性。我们在多种不同图像分类任务上实证展示了所提的用于概念发现的稀疏子空间聚类（SSCCD）方法的可靠性。该方法允许对实际模型行为更深入的洞察，而这是常规输入级热图所无法揭示的。
引用
@article{arxiv.2203.06043,
title = {Sparse Subspace Clustering for Concept Discovery (SSCCD)},
author = {Johanna Vielhaben and Stefan Blücher and Nils Strodthoff},
journal= {arXiv preprint arXiv:2203.06043},
year = {2022}
}
备注
24 pages, 24 figures, code will be made publicly available