ScDiVa: 掩码离散扩散用于单细胞身份与表达的联合建模
机器学习
2026-02-04 v1 人工智能
基因组学
摘要
单细胞 RNA-seq 桶组数据是高维、稀疏且无序的，导致自回归生成方法引入人为的排序偏差并 suffer from 误差累积。为此，我们提出 scDiVa，一种掩码离散扩散基础模型，通过在 token 空间中定义连续时间前向掩码机制来将生成与 dropout 类似的腐败过程对齐。ScDiVa 具备双向去噪器，联合建模离散基因身份和连续值，利用熵归一化序列化和潜在锚定 token 以最大化信息效率并保持全局细胞身份。该模型通过深度不变时间抽样和双重去噪目标进行训练，以模拟不同稀疏度水平并确保身份和幅度的精确恢复。在 5900 万细胞上预训练后，scDiVa 在主要基准测试中实现了强大的迁移性能，包括 batch 集成、细胞类型注释和扰动响应预测。这些结果表明，掩码离散扩散是自回归方法的生物学连贯且有效的替代方案。
关键词
引用
@article{arxiv.2602.03477,
title = {ScDiVa: Masked Discrete Diffusion for Joint Modeling of Single-Cell Identity and Expression},
author = {Mingxuan Wang and Cheng Chen and Gaoyang Jiang and Zijia Ren and Chuangxin Zhao and Lu Shi and Yanbiao Ma},
journal= {arXiv preprint arXiv:2602.03477},
year = {2026}
}
备注
19 pages, 11 figures