概念瓶颈模型中的基于树的泄漏检查与控制
机器学习
2024-10-10 v1
摘要
随着 AI 模型规模的增长，提高可解释性和问责制的需求日益增长。概念瓶颈模型(CBM)通过将输入映射到中间概念后再做出最终预测，旨在增强可解释性。然而，CBMs 常因信息泄漏而受限，即额外的输入数据未被概念捕获，却用于提高任务性能，使下游预测的解释变得复杂。本文引入一种新方法，用于训练联合和顺序 CBM，允许我们使用决策树识别和控制泄漏。我们通过比较硬 CBM 与软、漏漏 CBM 的决策路径来量化泄漏。具体而言，我们表明软漏漏 CBM 拓展了硬 CBM 的决策路径，尤其是在概念信息不完整的情况下。基于此洞察，我们开发了一种更好地检查和管理泄漏的技术，隔离受此影响最严重的数据子集。通过合成和真实世界的实验，我们展示了以这种方式控制漏漏不仅提高了任务准确率，也产生更具信息性和透明的解释。
引用
@article{arxiv.2410.06352,
title = {Tree-Based Leakage Inspection and Control in Concept Bottleneck Models},
author = {Angelos Ragkousis and Sonali Parbhoo},
journal= {arXiv preprint arXiv:2410.06352},
year = {2024}
}