结合 DeBERTa 与动态上下文位置门控的自动化医疗诊断高级 NLP 框架
计算与语言
2025-02-12 v1 人工智能
摘要
本文提出了一种新颖的自然语言处理（NLP）框架，通过集成数据增强、特征提取和分类中的先进技术来增强医疗诊断。所提出的方法采用回译生成多样化的复述数据集，提高了鲁棒性并缓解了分类任务中的过拟合。利用具有解耦注意力的增强解码 BERT（DeBERTa）与动态上下文位置门控（DCPG），该模型捕获了细粒度的上下文和位置关系，根据语义上下文动态调整位置信息的影响，以产生高质量的文本嵌入。在分类方面，采用了基于注意力的前馈神经网络（ABFNN），有效地聚焦于最相关的特征以提高决策准确率。该架构应用于症状、临床笔记和其他医疗文本的分类，展示了其处理医疗数据复杂性的能力。数据增强、上下文嵌入生成和先进分类机制的结合，提供了一个鲁棒且准确的诊断工具，在自动化医疗诊断和临床决策支持中具有潜在应用。该方法展示了所提出的NLP框架在医疗诊断中的有效性，取得了 99.78% 的准确率、99.72% 的召回率、99.79% 的精确率和 99.75% 的 F1 分数等显著成果。这些指标不仅突显了该模型在以极高的精度和可靠性对医疗文本进行分类方面的鲁棒性能，也突显了其相对于现有方法的优越性，使其成为自动化诊断系统中极具前景的工具。
引用
@article{arxiv.2502.07755,
title = {An Advanced NLP Framework for Automated Medical Diagnosis with DeBERTa and Dynamic Contextual Positional Gating},
author = {Mohammad Ali Labbaf Khaniki and Sahabeh Saadati and Mohammad Manthouri},
journal= {arXiv preprint arXiv:2502.07755},
year = {2025}
}