用于自动 ICD 编码的伪标签注意力网络
计算与语言
2021-06-21 v3
摘要
国际疾病分类（ICD）自动编码被定义为一种文本多标签分类问题，其困难在于标签数量极大且标签分布不平衡。标签注意力机制因能为完整电子病历（EMR）中每个词针对不同 ICD 代码分配权重，被广泛用于自动 ICD 编码。然而，标签注意力机制存在计算冗余且成本高昂的问题。本文提出一种伪标签注意力机制来解决该问题。伪标签注意力机制不再为不同 ICD 代码计算不同注意力模式，而是自动合并相似 ICD 代码并为这些相似代码仅计算一种注意力模式，从而大幅压缩注意力模式数量并提升预测准确率。此外，我们采用更便捷有效的方式获取 ICD 向量，因此模型可通过计算 EMR 向量与 ICD 向量间的相似度来预测新 ICD 代码。大量实验表明本模型性能优越。在公开 MIMIC-III 数据集和私有湘雅数据集上，本模型分别取得 0.583 和 0.806 的 micro f1，优于其他竞争模型。此外，我们验证了模型预测新 ICD 代码的能力。案例研究展示了伪标签注意力的工作方式，并证明了伪标签注意力机制的有效性。
引用
@article{arxiv.2106.06822,
title = {A Pseudo Label-wise Attention Network for Automatic ICD Coding},
author = {Yifan Wu and Min Zeng and Ying Yu and Min Li},
journal= {arXiv preprint arXiv:2106.06822},
year = {2021}
}