CountsDiff:自然数上的扩散模型用于生成与不完全数据插值
机器学习
2026-04-07 v1 人工智能
摘要
扩散模型在连续域和标记基域的生成任务中大放异彩,但针对离散序数数据的应用仍不成熟。我们提出 CountsDiff,一个专为对自然数分布进行建模的扩散框架。CountsDiff 通过直接参数化生存概率计划和显式损失加权来简化 Blackout 扩散框架的表述。这引入了通过设计参数直接对应于现有扩散建模框架的灵活性。除此之外,CountsDiff 引入了来自现代扩散模型的特征,这些特征此前在计数基域中缺失,包括连续时间训练、无分类器引导,以及 churn/remasking 逆向动力学,允许非单调的逆向轨迹。我们提出了 CountsDiff 的一个初始实现,并在自然图像数据集 (CIFAR-10、CelebA) 上进行验证,探索了在复杂、已研究且可解释的数据域中所引入设计参数的作用。随后我们指出生物计数实验是自然的用例,在胎儿细胞和心脏细胞图谱上的单细胞 RNA-seq 插值评估了 CountsDiff。惊人地,我们发现即使是这个简单的实现也能匹配或超越最先进的离散生成模型和领先的 RNA-seq 插值方法,同时在未来通过优化设计选择方面仍有显著的提升空间。
关键词
引用
@article{arxiv.2604.03779,
title = {CountsDiff: A Diffusion Model on the Natural Numbers for Generation and Imputation of Count-Based Data},
author = {Renzo G. Soatto and Anders Hoel and Greycen Ren and Shorna Alam and Stephen Bates and Nikolaos P. Daskalakis and Caroline Uhler and Maria Skoularidou},
journal= {arXiv preprint arXiv:2604.03779},
year = {2026}
}
备注
36 Pages, 11 figures. In review