基于概念的电子健康记录模型解释
机器学习
2021-04-22 v2 计算机与社会
摘要
循环神经网络（RNNs）常用于电子健康记录（EHRs）中不良结局的序列建模，因其能够编码过去的临床状态。与其他建模方法相比，这些深度循环架构在多项任务中表现出更高的性能，激发了在临床环境中部署深度模型的兴趣。确保安全模型部署与建立用户信任的关键要素之一是模型可解释性。概念激活向量测试（TCAV）最近被提出作为一种通过将高层概念与网络梯度进行比较来提供人类可理解解释的方法。尽管该技术在现实世界图像应用中显示出有前景的结果，但尚未应用于结构化时序输入。为使 TCAV 能应用于 EHR 中的序列预测，我们提出将该 method 扩展至时间序列数据。我们在一个来自重症监护病房的开放 EHR 基准以及合成数据上评估了所提方法，在合成数据中我们能够更好地隔离个体效应。
引用
@article{arxiv.2012.02308,
title = {Concept-based model explanations for Electronic Health Records},
author = {Diana Mincu and Eric Loreaux and Shaobo Hou and Sebastien Baur and Ivan Protsyuk and Martin G Seneviratne and Anne Mottram and Nenad Tomasev and Alan Karthikesanlingam and Jessica Schrouff},
journal= {arXiv preprint arXiv:2012.02308},
year = {2021}
}