通过对深度预测模型的对抗攻击识别医疗记录中的易损位置
机器学习
2018-02-15 v1
摘要
电子医疗记录（EHR）可用性的激增导致了医疗预测建模研究兴趣的增长。近来许多基于深度学习的预测模型也被开发用于 EHR 数据，并展现出令人印象深刻的性能。然而，一系列近期研究表明这些深度模型并不安全：它们存在某些脆弱性。简言之，训练良好的深度网络可能对具有微小扰动的输入极其敏感。此类输入被称为对抗样本。在医疗信息学背景下，此类攻击可通过轻微扰动患者的医疗记录来改变高性能深度预测模型的结果。这种不稳定性不仅反映了深度架构的弱点，更重要的是，它为检测输入上的易损部分提供了指引。本文中，我们提出一种高效且有效的框架，学习一种针对带 EHR 输入的 LSTM 模型的时间优先最小攻击，并利用该攻击策略筛查患者医疗记录并识别易损事件与测量值。该高效筛查流程可辅助决策者额外关注那些若测量不准会导致严重后果的位置。我们在真实世界的紧急护理队列上进行了广泛的实证研究，证明了所提筛查方法的有效性。
引用
@article{arxiv.1802.04822,
title = {Identify Susceptible Locations in Medical Records via Adversarial Attacks on Deep Predictive Models},
author = {Mengying Sun and Fengyi Tang and Jinfeng Yi and Fei Wang and Jiayu Zhou},
journal= {arXiv preprint arXiv:1802.04822},
year = {2018}
}