通过反事实向医师解释机器学习决策
机器学习
2023-06-13 v1
摘要
机器学习模型在多项医疗任务上表现良好，并有助于减轻医疗系统负担。然而，缺乏可解释性是其于医院中采用的主要障碍。\textit{如何向医师解释ML模型的决策？} 本文考虑的解释为反事实（CFs），即本会导致相反结果的假设情景。具体而言，受医师交谈与推演决策方式‘若患者血压更低且持续下降，我会给予血管加压药’的启发，研究了时间序列CFs。概述了在临床环境中尤为有意义的CFs关键属性：生理合理性、任务相关性与稀疏扰动。既往CF生成工作未满足这些属性，特别是未生成合理的时间序列CFs。提出了一种基于变分自编码器（VAE）的方法来捕获这些期望属性。该方法生成的CFs在定量上（按相对于原始数据分布的可能性评估为更合理，且生成CFs速度快100）与定性上（由三位医师评估为合理性与相关性均提升2）均优于先前方法。
引用
@article{arxiv.2306.06325,
title = {Explaining a machine learning decision to physicians via counterfactuals},
author = {Supriya Nagesh and Nina Mishra and Yonatan Naamad and James M. Rehg and Mehul A. Shah and Alexei Wagner},
journal= {arXiv preprint arXiv:2306.06325},
year = {2023}
}