概念瓶颈模型
机器学习
2021-01-01 v3 机器学习
摘要
我们寻求学习能够使用高级概念进行交互的模型：如果模型认为 X 光片中不存在骨刺，它还会预测重度关节炎吗？当前的最先进模型通常不支持对“骨刺存在性”等概念的操控，因为它们是端到端训练的，直接从原始输入 (例如像素) 到输出 (例如关节炎严重程度)。我们重新审视了这一经典思想：首先预测在训练时提供的概念，然后使用这些概念来预测标签。在结构上，我们可以通过编辑概念瓶颈模型的预测概念值并将这些更改传播到最终预测来对其进行干预。在 X 光片分级和鸟类识别任务中，概念瓶颈模型实现了与标准端到端模型相当的准确率，同时允许在高级临床概念 (“骨刺”) 或鸟类属性 (“翅膀颜色”) 方面进行解释。这些模型还允许更丰富的人机交互：如果我们在测试时纠正模型在概念上的错误，准确率会显著提高。
引用
@article{arxiv.2007.04612,
title = {Concept Bottleneck Models},
author = {Pang Wei Koh and Thao Nguyen and Yew Siang Tang and Stephen Mussmann and Emma Pierson and Been Kim and Percy Liang},
journal= {arXiv preprint arXiv:2007.04612},
year = {2021}
}
备注
Edited for clarity from the ICML 2020 version