医学编码预测的可信且合理可解释性
机器学习
2021-04-19 v1 计算与语言
摘要
具备优异预测性能的机器学习模型往往缺乏支持人机一体化决策所需的可解释性。在临床医学及其他高风险场景中，领域专家可能不愿在缺乏解释的情况下信任模型预测。可解释 AI 的研究必须沿两个不同轴平衡相互竞争的目标：1）解释必须平衡对模型决策的忠实度与对领域专家的合理性。2）领域专家期望对个体预测的局部解释与对总体行为的全局解释。我们提议训练一个代理模型来模仿已训练模型的行为，并对这些权衡提供细粒度控制。我们在将 ICD 编码分配给临床笔记的任务上评估了我们的方法，以证明来自代理模型的解释是忠实的且复现了已训练模型的行为。
引用
@article{arxiv.2104.07894,
title = {Faithful and Plausible Explanations of Medical Code Predictions},
author = {Zach Wood-Doughty and Isabel Cachola and Mark Dredze},
journal= {arXiv preprint arXiv:2104.07894},
year = {2021}
}
备注
The first two authors contributed equally