自监督知识的元迁移：基础模型在创伤后癫痫预测中的应用
图像与视频处理
2023-12-25 v1 机器学习
神经元与认知
摘要
尽管使用深度学习进行功能脑活动分析取得了令人瞩目的进展，但功能模式的异质性和成像数据的稀缺仍然在诸多任务中构成挑战，例如根据创伤性脑损伤（TBI）后不久采集的数据预测未来创伤后癫痫（PTE）的发作。在独立的大规模数据集上预训练的基础模型可以提高在稀缺和异质数据集上的性能。对于功能磁共振成像，虽然可能从健康对照组获得大量数据，但临床数据通常稀缺，限制了基础模型识别临床相关特征的能力。我们通过将元学习与自监督学习相结合，为我们的基础模型引入了一种新颖的训练策略，以提高从正常特征到临床特征的泛化能力，从而克服了这一限制。通过这种方式，我们实现了向其他下游临床任务的泛化，在我们的场景中即PTE的预测。为了实现这一点，我们在对照数据集上进行自监督训练，以关注不局限于特定监督任务的内在特征，同时应用元学习，通过双层优化显著提高模型的泛化能力。通过在神经障碍分类任务上的实验，我们证明所提出的策略显著提高了小规模临床数据集上的任务性能。为了探索基础模型在下游应用中的泛化能力，我们随后将该模型应用于未见过的TBI数据集，使用零样本学习进行PTE预测。结果进一步证明了我们基础模型增强的泛化能力。
引用
@article{arxiv.2312.14204,
title = {Meta Transfer of Self-Supervised Knowledge: Foundation Model in Action for Post-Traumatic Epilepsy Prediction},
author = {Wenhui Cui and Haleh Akrami and Ganning Zhao and Anand A. Joshi and Richard M. Leahy},
journal= {arXiv preprint arXiv:2312.14204},
year = {2023}
}