中文

DDxT:用于鉴别诊断的深度生成式 Transformer 模型

机器学习 2023-12-05 v1 人工智能

摘要

鉴别诊断(DDx)是基于证据通过排除过程,从可能的病理中识别最可能医疗状况的过程。一种能将大量病理缩小至最可能病理的自动化过程将具有重要意义。先前的主要工作依赖于强化学习(RL)范式,直觉上认为其更符合医生执行 DDx 的方式。在本文中,我们展示了使用更简单的监督和自监督学习信号训练的生成式方法可以在当前基准上取得更优结果。所提出的基于 Transformer 的生成式网络名为 DDxT,它自回归地生成一组可能的病理(即 DDx),并使用神经网络预测实际病理。实验使用 DDXPlus 数据集进行。在 DDx 任务中,所提出的网络实现了 99.82% 的平均准确率和 0.9472 的平均 F1 分数。此外,在预测真实病理时,平均准确率达到 99.98%,平均 F1 分数为 0.9949。所提出的 DDxT 大幅优于先前基于 RL 的方法。总体而言,基于 Transformer 的自动化 DDx 生成模型有潜力成为医生在紧急情况下的有用工具。

关键词

引用

@article{arxiv.2312.01242,
  title  = {DDxT: Deep Generative Transformer Models for Differential Diagnosis},
  author = {Mohammad Mahmudul Alam and Edward Raff and Tim Oates and Cynthia Matuszek},
  journal= {arXiv preprint arXiv:2312.01242},
  year   = {2023}
}

备注

Accepted at 1st Workshop on Deep Generative Models for Health at NeurIPS 2023