$\Gamma$-VAE:用于揭示高维数据中涌现低维几何结构的曲率正则化变分自编码器
机器学习
2024-03-05 v1 人工智能
生物物理
基因组学
摘要
具有涌现行为的自然系统通常沿着高维空间的低维子集进行组织。例如,尽管人类基因组中有数以万计的基因,但基因组学的原理研究仍然卓有成效,因为生物过程依赖于导致低维表型的协调组织。为了揭示这种组织结构,许多非线性降维技术通过保留数据点之间的局部相似性,成功地将高维数据嵌入到低维空间中。然而,这些方法中的非线性允许过大的曲率以保留多个非相邻数据簇之间的总体趋势,从而限制了它们对分布外数据的可解释性和泛化能力。在此,我们通过正则化变分自编码器生成的流形的曲率来解决这两个限制,我们将此过程称为“-VAE”。我们使用两个示例数据集展示了其效用:来自 The Cancer Genome Atlas (TCGA) 和 Genotype Tissue Expression (GTEx) 的批量 RNA-seq;以及来自造血干细胞分化谱系追踪实验的单细胞 RNA-seq。我们发现,由此产生的正则化流形识别了与不同癌细胞类型相关的介观结构,并准确地重新嵌入了来自完全未见、分布外癌症的组织,就好像它们最初是在这些组织上训练的一样。最后,我们表明,保留与分化细胞的长程关系能够根据未分化细胞的最终命运将它们——即尚未特化的细胞——分离开来。广义上讲,我们预期正则化生成模型的曲率将在任何具有涌现低维行为的高维系统中实现更一致、更具预测性和泛化能力的模型。
引用
@article{arxiv.2403.01078,
title = {$\Gamma$-VAE: Curvature regularized variational autoencoders for uncovering emergent low dimensional geometric structure in high dimensional data},
author = {Jason Z. Kim and Nicolas Perrin-Gilbert and Erkan Narmanli and Paul Klein and Christopher R. Myers and Itai Cohen and Joshua J. Waterfall and James P. Sethna},
journal= {arXiv preprint arXiv:2403.01078},
year = {2024}
}
备注
8 pages, 4 figures