InfoCons：基于信息论识别点云中可解释的关键概念
机器学习
2025-05-27 v1
摘要
鉴于点云（PC）模型被部署在自动驾驶等安全关键场景中，其可解释性变得势在必行。我们专注于将 PC 模型输出归因于可解释的关键概念，这些概念被定义为输入点云的有意义子集。为了实现人类可理解的模型故障诊断，理想的关键子集应是*忠实的*（保留因果影响预测的点）且*概念连贯的*（形成符合人类感知的语义有意义结构）。我们提出了 InfoCons，这是一个应用信息论原理将点云分解为 3D 概念的解释框架，能够利用可学习的先验来检验它们对模型预测的因果效应。我们在用于分类的合成数据集上评估了 InfoCons，并将其与四个基线进行了定性和定量比较。我们进一步在两个真实世界数据集和两个利用 PC 关键分数的应用中展示了其可扩展性和灵活性。
引用
@article{arxiv.2505.19820,
title = {InfoCons: Identifying Interpretable Critical Concepts in Point Clouds via Information Theory},
author = {Feifei Li and Mi Zhang and Zhaoxiang Wang and Min Yang},
journal= {arXiv preprint arXiv:2505.19820},
year = {2025}
}
备注
Accepted by ICML 2025 (Poster)