参数高效知识转移：让病理基础模型精确预测基因表达
计算机视觉与模式识别
2025-04-10 v1
摘要
基因表达轮廓为理解细胞异质性、生物过程和疾病机制提供关键信息。近年来，计算方法以直接从数字化组织病理图像预测基因表达而受到关注。尽管图像基础模型在various pathology downstream analysis中显示出前景，但其在基因表达预测上的性能仍有限。显式地将转录组模型信息纳入可帮助图像模型解决领域迁移问题，然而模型的微调与对齐代价高昂。本文提出参数高效知识转移（PEKA）框架，利用块仿射适应技术集成知识蒸馏和结构对齐损失，实现跨模态知识转移。我们在多个空间转录组数据集上评估了PEKA用于基因表达预测（数据集包含206,123个带匹配基因表达谱的图像块），涵盖 various组织类型。PEKA在基线模型上至少实现5%的性能提升，且优于替代的 参数高效微调策略。我们将在同行评审后发布代码、数据集和对齐模型，以促进参数高效模型对齐的更广泛采用与进一步发展。
引用
@article{arxiv.2504.07061,
title = {Teaching pathology foundation models to accurately predict gene expression with parameter efficient knowledge transfer},
author = {Shi Pan and Jianan Chen and Maria Secrier},
journal= {arXiv preprint arXiv:2504.07061},
year = {2025}
}