迈向通用医疗 AI：持续学习的医疗基础模型
计算机视觉与模式识别
2023-03-14 v1 计算与语言
机器学习
摘要
真实场景中队域与任务不可避免的偏差会损害预训练深度模型在医疗数据上的泛化性能。因此，我们大胆提出应构建一个可无缝适配下游域/任务的通用医疗 AI 系统。由于域/任务适配过程通常涉及对目标数据的额外标注工作，设计数据高效的适配算法以节省迁移所学知识之成本是可取的。我们近期的工作发现视觉-语言模型（VLMs）是具有卓越跨域能力的的高效学习者。因此，本工作中我们进一步探索利用预训练 VLMs 作为医疗基础模型来构建通用医疗 AI 的可能性，其中我们深入研究了三种机器学习范式，即域/任务专用学习、联合学习与持续学习，用于训练 VLMs 并评估它们在跨域与跨任务测试集上的泛化性能。为缓解顺序训练中的灾难性遗忘，我们采用重演学习并在泛化能力上获得显著提升。简而言之，我们的经验证据表明持续学习可能是医疗基础模型的一种实用且高效的学习范式。我们希望研究者能以我们的经验证据为基础，进一步探索通向医疗基础模型的道路。
引用
@article{arxiv.2303.06580,
title = {Towards General Purpose Medical AI: Continual Learning Medical Foundation Model},
author = {Huahui Yi and Ziyuan Qin and Qicheng Lao and Wei Xu and Zekun Jiang and Dequan Wang and Shaoting Zhang and Kang Li},
journal= {arXiv preprint arXiv:2303.06580},
year = {2023}
}