中文

Text2Tree:将文本表示对齐至标签树层级以用于不平衡医学分类

计算与语言 2023-11-29 v1

摘要

深度学习方法在各种文本任务上展现出有前景的性能。然而,它们在医学文本分类上仍面临困难,因为样本往往极度不平衡且稀少。与现有聚焦于利用外部医学信息补充语义的主流方法不同,本文旨在重新思考医学文本中的数据挑战,并提出一种名为 Text2Tree 的、与框架无关的算法,该算法在训练深度学习模型时仅利用内部标签层级。我们将标签的 ICD 编码树结构嵌入级联注意力模块中,以学习层级感知的标签表示。我们设计了两种新的学习方案——相似度代理学习(SSL)和异相似度混合学习(DML),分别通过按照标签表示层级复用和区分其他标签的样本来提升文本分类性能。在权威公开数据集和真实世界医疗记录上的实验表明,我们的方法稳定地优于经典和先进的不平衡分类方法。

关键词

引用

@article{arxiv.2311.16650,
  title  = {Text2Tree: Aligning Text Representation to the Label Tree Hierarchy for Imbalanced Medical Classification},
  author = {Jiahuan Yan and Haojun Gao and Zhang Kai and Weize Liu and Danny Chen and Jian Wu and Jintai Chen},
  journal= {arXiv preprint arXiv:2311.16650},
  year   = {2023}
}

备注

EMNLP 2023 Findings. Code: https://github.com/jyansir/Text2Tree