基于主张量奇异值与向量的U-NetR低秩适配器用于髑鬃体分割
计算机视觉与模式识别
2025-10-01 v3
摘要
髑鬃体是脑部重要结构，参与多种精神疾病，其自动准确分割对研究这些疾病至关重要。最近的深度学习方法在髑鬃体分割方面取得了显著进展。然而，训练深度神经网络模型需要大量计算资源、时间和大量标记训练数据，而医学图像分割中标记数据常稀缺。为此，我们提出LoRA-PT，一种 novel 参数高效微调(PEFT)方法，将BraTS2021数据集上预训练的UNETR模型迁移到髑鬃体分割任务。具体而言，LoRA-PT将转换结构的参数矩阵划分为三个不同大小的第三阶张量。这些张量使用张量奇异分解进行分解，生成由主奇异值和奇异向量构成的低秩张量，其余奇异值和奇异向量组成残差张量。在微调期间，仅更新低秩张量(即主张量奇异值和奇异向量)，而残差张量保持不变。我们在三个公开的髑鬃体数据集上对所提方法进行验证，实验结果表明，LoRA-PT在分割精度方面优于最先进的PEFT方法，同时显著减少参数更新数量。我们的源代码已公开 https://github.com/WangangCheng/LoRA-PT/tree/LoRA-PT
引用
@article{arxiv.2407.11292,
title = {LoRA-PT: Low-Rank Adapting UNETR for Hippocampus Segmentation Using Principal Tensor Singular Values and Vectors},
author = {Guanghua He and Wangang Cheng and Hancan Zhu and Gaohang Yu},
journal= {arXiv preprint arXiv:2407.11292},
year = {2025}
}
备注
Accepted to Artificial Intelligence in Medicine (2025). Final published version available online