中文

基于 Transformer 的多标签序列分类用于自动差别诊断

机器学习 2024-08-29 v1 计算与语言

摘要

随着人工智能领域的不断进步,辅助技术正在跨越所有行业。医疗保健行业也不例外,众多研究正在开发面向医疗专业人员的辅助工具。自动诊断系统是此类有益工具之一,可协助完成多种任务,包括收集患者信息、分析检验结果和诊断疾病。然而,在大多数研究中,开发能够提供差别诊断系统的想法仍被大大忽视。本研究提出一种基于 Transformer 的方法,用于根据患者的年龄、性别、病史和症状提供差别诊断。我们使用 DDXPlus 数据集,该数据集基于 49 种疾病类型提供患者的差别诊断信息。首先,我们提出了一种处理该数据集中表格患者数据的 метод,将其工程化为患者报告,以便适用于我们的研究。此外,我们引入两种数据修改模块来多样化训练数据,从而提高模型的鲁棒性。我们将任务作为多标签分类问题进行处理,并使用四个 Transformer 模型进行大量实验。所有模型都通过在 held-out 测试集上取得超过 97% 的 F1 分数显示出有前景的效果。此外,我们设计了额外的行为测试,以更全面地了解模型。对于其中一个测试案例,我们在医生的帮助下准备了一个包含 100 个样本的定制测试集。该定制数据集上的结果显示,我们提议的数据修改模块提高了模型的泛化能力。我们希望我们的发现能为未来的研究者提供宝贵的见解,并激励他们开发可靠的自动差别诊断系统。

关键词

引用

@article{arxiv.2408.15827,
  title  = {Automatic Differential Diagnosis using Transformer-Based Multi-Label Sequence Classification},
  author = {Abu Adnan Sadi and Mohammad Ashrafuzzaman Khan and Lubaba Binte Saber},
  journal= {arXiv preprint arXiv:2408.15827},
  year   = {2024}
}

备注

25 pages, 7 figures