多模态深度神经网络的概念选择视角理解
计算机视觉与模式识别
2024-04-16 v1 人工智能
机器学习
摘要
以 CLIP 为代表的多模态深度神经网络因其卓越的性能而在下游应用中发挥作用，从而使理解 CLIP 决策过程成为一个必不可少的研究主题。由于其复杂的结构和大规模预训练数据，这些模型常被视为难以理解和解释的黑箱模型。概念基模型将由深度神经网络提取的黑箱视觉表征映射到一组人类可理解的概念，并利用这些概念进行预测，从而增强决策过程的透明度。然而，这些方法涉及由专家知识标记的细粒度属性数据集，这会带来高成本并引入过多的人类先验知识和偏见。本文基于观察到的概念的长尾分布，提出了两个阶段的概念选择模型（CSM），以无需引入任何人类先验知识来挖掘核心概念。应用概念贪心粗选算法提取头部概念，然后通过概念掩码精细选择方法提取核心概念。实验表明，我们的方法在性能上与端到端的黑箱模型相当，人类评估还表明，我们的方法发现的概念对人类是可解释且易于理解的。
引用
@article{arxiv.2404.08964,
title = {Understanding Multimodal Deep Neural Networks: A Concept Selection View},
author = {Chenming Shang and Hengyuan Zhang and Hao Wen and Yujiu Yang},
journal= {arXiv preprint arXiv:2404.08964},
year = {2024}
}