探究黑盒的不良性能区域：基于 LIME 的脓毒症检测探索
机器学习
2023-06-23 v1 人工智能
摘要
解释机器学习模型仍是一项挑战，阻碍其在临床环境中的采用。本文提出利用局部可解释模型无关解释（LIME）为高风险脓毒症检测中的黑盒分类模型提供可解释描述。通过分析误分类实例，识别出导致次优性能的显著特征。该分析揭示了分类器表现不佳的区域，从而可计算这些区域内的错误率。该知识对于脓毒症检测及其他关键应用中的审慎决策至关重要。所提方法使用 eICU 数据集进行演示，有效识别并可视化分类器表现不佳的区域。通过增强可解释性，我们的方法促进了机器学习模型在临床实践中的采用，赋能知情决策并缓解关键场景中的风险。
引用
@article{arxiv.2306.12507,
title = {Investigating Poor Performance Regions of Black Boxes: LIME-based Exploration in Sepsis Detection},
author = {Mozhgan Salimiparsa and Surajsinh Parmar and San Lee and Choongmin Kim and Yonghwan Kim and Jang Yong Kim},
journal= {arXiv preprint arXiv:2306.12507},
year = {2023}
}
备注
Accepted at the 1st World Conference on eXplainable Artificial Intelligence - Late-breaking work, Demos and Doctoral Consortium, 2023