通过课程数据擦除引导的知识蒸馏，实现不确定性不完整下的鲁棒多模态顺序诊断预测
机器学习
2025-01-31 v4 人工智能
摘要
本文提出了 NECHO v2，一个旨在增强多模态顺序患者诊断预测准确性的新框架，应对临床实践中常见的不确定缺失诊疗序列问题。首先，我们修改了原有的 NECHO 模型，该模型以诊断代码为中心设计，以处理不完美数据下的模态表示主导问题。其次，我们发展了系统的知识蒸馏方法，采用修改后的 NECHO 既作为教师又作为学生，包含模态级对比和层次化蒸馏、Transformer 表示随机蒸馏等，以紧密有效地对齐教师与学生之间的表征。我们还提出了在教师的训练和蒸馏期间引入课程学习引导的随机数据擦除，以轻度模拟缺失诊疗信息的场景，从而促进有效的知识传递。结果表明，NECHO v2 在多模态医疗数据上的平衡和不平衡不完整设置下，均显示出鲁棒性优越的表现。
引用
@article{arxiv.2407.19540,
title = {Overcoming Uncertain Incompleteness for Robust Multimodal Sequential Diagnosis Prediction via Curriculum Data Erasing Guided Knowledge Distillation},
author = {Heejoon Koo},
journal= {arXiv preprint arXiv:2407.19540},
year = {2025}
}
备注
Accepted by ICASSP 2025 (2025 IEEE International Conference on Acoustics, Speech, and Signal Processing)