Proto-BagNets：用于局部与全局可解释性设计的原型网络
人工智能
2024-06-25 v2
摘要
可解释性是机器学习模型在高风险应用中（包括医学诊断）使用的关键要求。解释黑箱模型主要依赖事后方法，这些方法不忠实地反映模型的行为。作为补救措施，提出了基于原型的网络，但其可解释性受限，因为它们被证明提供粗糙、不可靠且不精确的解释。本文引入 Proto-BagNets，这是一种可设计原型的网络，结合了局部特征袋模型和原型学习的优势，为准确且可解释的图像分类任务提供有意义、连贯且相关的原型部分。我们对 Proto-BagNet 在公开眼底光学相机数据上的黄斑变性检测进行了评估。Proto-BagNet 在提供忠实、准确且临床有意义的局部与全局解释方面，性能相当于最先进的可解释与不可解释模型。代码已公开于 https://github.com/kdjoumessi/Proto-BagNets。
引用
@article{arxiv.2406.15168,
title = {This actually looks like that: Proto-BagNets for local and global interpretability-by-design},
author = {Kerol Djoumessi and Bubacarr Bah and Laura Kühlewein and Philipp Berens and Lisa Koch},
journal= {arXiv preprint arXiv:2406.15168},
year = {2024}
}