MIMIC-IF：基于 MIMIC-IV 数据集的深度学习模型可解释性与公平性评估
机器学习
2021-02-16 v1 人工智能
摘要
近期发布的大规模医疗数据集极大地推动了面向医疗应用的数据驱动深度学习模型的研究。然而，由于此类深度黑盒模型的特性，在关乎人类生命的医疗场景中，关于可解释性、公平性和偏见的担忧要求对数据集和模型进行仔细而全面的审查。在本工作中，我们聚焦于最大规模的公开医疗数据集 MIMIC-IV（重症监护医学信息集市，第四版），并对用于院内死亡预测的深度学习模型的数据集表征偏见以及可解释性和预测公平性进行了全面分析。在可解释性方面，我们观察到：(1) 性能最佳的可解释性方法能成功识别多种预测模型中用于死亡预测的关键特征；(2) 人口统计学特征对预测十分重要。在公平性方面，我们观察到：(1) 在不同族群、性别和年龄的患者群体中，机械通气的处方存在差别化对待；(2) 所有研究的死亡预测模型总体上是公平的，而 IMV-LSTM（可解释多变量长短期记忆）模型在所有受保护群体中提供了最准确且无偏的预测。我们进一步通过建立可解释性方法中的特征重要性与公平性度量之间的具体联系，展示了可解释性方法的特性重要性如何有助于量化死亡预测模型中潜在的差异。
引用
@article{arxiv.2102.06761,
title = {MIMIC-IF: Interpretability and Fairness Evaluation of Deep Learning Models on MIMIC-IV Dataset},
author = {Chuizheng Meng and Loc Trinh and Nan Xu and Yan Liu},
journal= {arXiv preprint arXiv:2102.06761},
year = {2021}
}