面向特定领域的胃肠疾病识别的参数高效微调
计算机视觉与模式识别
2026-04-14 v1
摘要
尽管近期在医学图像分析领域取得了使用预训练基础模型的进展，但跨来源图像之间的分布迁移问题仍然严峻。为规避该问题，研究者通常为每个来源单独训练一个模型。然而，当我们对单个数据集全部分析式微调预训练大型模型时，该方法变得昂贵，因为必须存储多个模型副本。因此，本文提出使用低秩适应（LoRA）模块进行下游分类任务的微调。LoRA 学习轻量级任务特定的低秩矩阵，这些矩阵扰动预训练权重以优化这些下游任务。对于胃肠道疾病，LoRA 在改进参数效率方面显著优于端到端微调。代码已于 github.com/sanjay931/peft-gi-recognition 提供。
引用
@article{arxiv.2604.10451,
title = {Parameter Efficient Fine-tuning for Domain-specific Gastrointestinal Disease Recognition},
author = {Sanjaya Poudel and Nikita Kunwor and Raj Simkhada and Mustafa Munir and Manish Dhakal and Khem Poudel},
journal= {arXiv preprint arXiv:2604.10451},
year = {2026}
}
备注
6 pages, 3 figures, CVPR conference