原型部件网络的 Rashomon 集：实时可编辑的可解释模型
计算机视觉与模式识别
2025-03-04 v1 机器学习
摘要
可解释性对高风险场景中的机器学习模型至关重要，因为它允许用户验证模型的推理过程。在计算机视觉领域，原型部件模型(ProtoPNets)已成为满足这一需求的主导模型类型。用户可以轻松识别ProtoPNets中的缺陷，但修复ProtoPNets的问题需要缓慢、困难的重新训练，且无法保证能够解决问题。我们称此问题为"交互瓶颈"。我们通过同时寻找众多同样优秀的ProtoPNets(即从"Rashomon集"中抽取样本)来解决ProtoPNets的交互瓶颈。我们展示了该框架——称为Proto-RSet——能够快速生成众多准确且多样化的ProtoPNets，使用户能够在保持对训练集性能保证的前提下，实时纠正问题。我们在两个实际场景中展示了该方法的实用性：1)去除鸟类识别模型中引入的合成偏差；2)调试皮肤癌识别模型。该工具使非机器学习专家(如临床医生或领域专家)能够无需通过机器学习专家进行多次重新训练，即可快速细化和纠正机器学习模型。
关键词
引用
@article{arxiv.2503.01087,
title = {Rashomon Sets for Prototypical-Part Networks: Editing Interpretable Models in Real-Time},
author = {Jon Donnelly and Zhicheng Guo and Alina Jade Barnett and Hayden McTavish and Chaofan Chen and Cynthia Rudin},
journal= {arXiv preprint arXiv:2503.01087},
year = {2025}
}
备注
Accepted for publication in CVPR 2025