部件原型网络的概念级调试
机器学习
2023-01-24 v2 计算机视觉与模式识别
摘要
部件原型网络（ProtoPNets）是基于概念的分类器，旨在在不牺牲透明性的前提下达到与黑盒模型相同的性能。ProtoPNets基于与类特定部件原型的相似度计算预测，这些原型被学习用于识别训练样本的部分，从而易于忠实确定哪些样本对任何目标预测负责及其原因。然而，与其他模型一样，它们容易从数据中捕获混杂因素和捷径，因而面临预测精度受损和泛化受限的问题。我们提出ProtoPDebug，一种用于ProtoPNets的有效概念级调试器，其中人类监督者在该模型解释的指导下，以必须遗忘或保留哪些部件原型的形式提供反馈，并对模型进行微调以与该监督对齐。我们的实验评估表明，ProtoPDebug以极少标注成本优于最先进的调试器。一项针对普通用户的在线实验证实了向用户请求反馈的简便性以及所收集反馈对学习无混杂部件原型的有效性。正如在医疗决策任务上的初步评估所提示的，ProtoPDebug是关键应用中可信交互式学习的 promising 工具。
引用
@article{arxiv.2205.15769,
title = {Concept-level Debugging of Part-Prototype Networks},
author = {Andrea Bontempelli and Stefano Teso and Katya Tentori and Fausto Giunchiglia and Andrea Passerini},
journal= {arXiv preprint arXiv:2205.15769},
year = {2023}
}
备注
Accepted for publication at ICLR 2023