深度放弃分类器的全局可解释性
机器学习
2025-04-03 v1
摘要
我们提出了一种全局可解释性方法，用于表征 histology 预测任务中我们基于真实世界多任务卷积神经网络（MTCNN）实现的深度放弃分类器（DAC）中的错误来源。该分类器在 104 万个手工标注的样本上进行训练和评估，同时预测每份报告的癌症部位、子部位、组织学、侧裂和行为。DAC 框架使模型能够对含糊报告和/或混淆的类别进行放弃，以在保留（未放弃）样本上实现目标准确率，但以覆盖率下降为代价。要求 histology 任务达到 97% 的准确率导致我们的模型仅保留了所有样本的 22%，主要是较不含糊且常见的类别。使用 GradInp 技术的局部可解释性提供了获取数千个 individual 预测上下文推理的计算效率方法。我们的方法通过对约 13000 个聚合局部解释进行降维，实现了全局识别错误来源作为类别之间的层次复杂性、标签噪声、信息不足和冲突证据。这表明若干策略如排除标准、聚焦标注以及减少涉及层次相关类别的错误惩罚，可用于迭代改进本在复杂真实世界实现中的 DAC。
引用
@article{arxiv.2504.01202,
title = {Global explainability of a deep abstaining classifier},
author = {Sayera Dhaubhadel and Jamaludin Mohd-Yusof and Benjamin H. McMahon and Trilce Estrada and Kumkum Ganguly and Adam Spannaus and John P. Gounley and Xiao-Cheng Wu and Eric B. Durbin and Heidi A. Hanson and Tanmoy Bhattacharya},
journal= {arXiv preprint arXiv:2504.01202},
year = {2025}
}