通过潜在聚类从基于扩散的反事实中发现概念方向
计算机视觉与模式识别
2025-12-01 v2 机器学习
摘要
基于概念的解释已成为可解释人工智能中的一种有效方法，通过将模型决策与人类可理解的概念对齐，提供可解释的洞见。然而，现有方法依赖于计算密集型过程，并且难以高效捕捉复杂的语义概念。本文引入了潜在聚类概念方向（Concept Directions via Latent Clustering, CDLC）方法，该方法通过对源自真实图像和扩散生成的反事实图像对的潜在差异向量进行聚类，来提取全局的、类别特定的概念方向。与基线方法相比，CDLC 将存储需求降低了约 4.6%，并将概念发现速度提升了约 5.3%，同时无需 GPU 进行聚类，从而能够在潜在维度上高效提取多维语义概念。该方法在一个真实世界的皮肤病变数据集上得到了验证，结果表明提取的概念方向与临床认可的皮肤镜特征一致，并且在某些情况下揭示了数据集特定的偏差或未知的生物标志物。这些结果突显了 CDLC 是可解释的、可扩展的，并且适用于高风险领域和多样化的数据模态。
引用
@article{arxiv.2505.07073,
title = {Discovering Concept Directions from Diffusion-based Counterfactuals via Latent Clustering},
author = {Payal Varshney and Adriano Lucieri and Christoph Balada and Andreas Dengel and Sheraz Ahmed},
journal= {arXiv preprint arXiv:2505.07073},
year = {2025}
}
备注
Accepted at Pattern Recognition Letters Journal (14 Pages)