GlanceNets：可解释且无信息泄漏的基于概念的模型
机器学习
2022-10-19 v2
摘要
基于概念的模型（CBM）通过获取并利用一组高级概念进行推理，从而兼顾高性能与可解释性，近来受到越来越多的关注。一个关键要求是概念具有可解释性。现有 CBM 采用基于模糊可解释性概念的多种启发式方法来应对这一需求，但未能获取具有预期语义的概念。为此，我们给出可解释性的清晰定义，将其表述为模型表示与底层数据生成过程之间的对齐，并引入 GlanceNets——一种利用解耦表示学习与开放集识别技术来实现对齐的新型 CBM，从而提升所学概念的可解释性。我们表明，在结合概念级监督时，GlanceNets 比最先进的方法取得更好的对齐，同时防止无关信息意外泄漏到所学概念中。
引用
@article{arxiv.2205.15612,
title = {GlanceNets: Interpretabile, Leak-proof Concept-based Models},
author = {Emanuele Marconato and Andrea Passerini and Stefano Teso},
journal= {arXiv preprint arXiv:2205.15612},
year = {2022}
}
备注
36th Conference on Neural Information Processing Systems (NeurIPS 2022)