TransICD：基于 Transformer 的码级注意力可解释 ICD 编码模型
计算与语言
2021-04-22 v1 机器学习
摘要
国际疾病分类（ICD）编码流程指用诊断代码标注医疗记录，已被证明在医疗行业的计费系统中有效且关键。目前，ICD 代码由人工分配给临床记录，这容易引发诸多错误。此外，培训熟练编码员也需耗费时间与人力资源。因此，自动化 ICD 代码判定流程是一项重要任务。随着人工智能理论与计算硬件的发展，机器学习方法已成为实现该流程自动化的合适方案。在本项目中，我们采用基于 transformer 的架构来捕捉文档词符间的相互依赖关系，随后使用码级注意力机制学习整个文档的码特定表示。最后，将它们送入独立的全连接层以进行相应代码预测。此外，为处理临床数据集中代码频率的不平衡，我们采用了标签分布感知间隔（LDAM）损失函数。在 MIMIC-III 数据集上的实验结果表明，我们提出的模型以显著优势优于其他基线。特别地，我们的最佳设置取得了 0.923 的 micro-AUC 分数，而双向循环神经网络为 0.868。我们还表明，通过使用码级注意力机制，模型能对其预测提供更多的洞察，从而可支持临床医生做出可靠决策。我们的代码已在线提供（https://github.com/biplob1ly/TransICD）。
引用
@article{arxiv.2104.10652,
title = {TransICD: Transformer Based Code-wise Attention Model for Explainable ICD Coding},
author = {Biplob Biswas and Thai-Hoang Pham and Ping Zhang},
journal= {arXiv preprint arXiv:2104.10652},
year = {2021}
}
备注
10 pages, 4 figures