通过形态特征改进转录组学表示的跨模态知识蒸馏与数据增强方案
机器学习
2025-05-28 v1 人工智能
摘要
理解细胞对刺激的响应对于生物学发现和药物开发至关重要。转录组学提供可解释的基因级见解，而显微成像提供丰富的预测特征但难以解释。样本共享生物状态的弱配对数据集支持多模态学习，但此类数据稀缺，限制了其在训练和多模态推理中的效用。我们提出了一个通过从显微图像中蒸馏知识来增强转录组学的框架。利用弱配对数据，我们的方法对齐并绑定模态，用形态学信息丰富基因表达表示。为了解决数据稀缺问题，我们引入了：（1）Semi-Clipped，一种利用预训练基础模型进行跨模态蒸馏的 CLIP 改进方法，取得了最先进的结果；（2）PEA（扰动嵌入增强），一种在保留内在生物学信息的同时增强转录组学数据的新型增强技术。这些策略提高了转录组学的预测能力并保留了其可解释性，为复杂的生物学任务提供了丰富的单模态表示。
引用
@article{arxiv.2505.21317,
title = {A Cross Modal Knowledge Distillation & Data Augmentation Recipe for Improving Transcriptomics Representations through Morphological Features},
author = {Ihab Bendidi and Yassir El Mesbahi and Alisandra K. Denton and Karush Suri and Kian Kenyon-Dean and Auguste Genovesio and Emmanuel Noutahi},
journal= {arXiv preprint arXiv:2505.21317},
year = {2025}
}
备注
ICML 2025 Main Proceedings