概念瓶颈模型的多样化概念提议
机器学习
2024-12-25 v1
摘要
概念瓶颈模型是解释性强的预测模型，常用于模型可信度是关键优先事项的领域，如医疗保健领域。它们从数据中识别出少数量的人类可解释概念，然后利用这些概念进行预测。从数据中学习相关概念具有挑战性。最具预测性的概念可能不与专家直觉一致，从而导致可解释性失效，难以弥补。我们提出的方法识别一组解释数据的数据的预测性概念。通过提供多个备用解释，允许人类专家选择最符合其期望的解释。为展示我们的方法，我们证明其能够在合成数据集上发现所有可能的概念表示。在 EHR 数据上，我们的模型能够在无监督情况下识别 4 个预定义的概念中的 4 个。
引用
@article{arxiv.2412.18059,
title = {Diverse Concept Proposals for Concept Bottleneck Models},
author = {Katrina Brown and Marton Havasi and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:2412.18059},
year = {2024}
}
备注
Accepted to the ICML 2022 Workshop on Human-Machine Collaboration and Teaming