中文

通过小片集成实现海量数据快速准确的图学习

机器学习 2024-10-28 v2 机器学习

摘要

高斯图模型为揭示节点集合之间的条件依赖关系提供了强大的框架;它们已广泛应用于包括传感与通信网络、物理学、金融和计算生物学在内的众多领域。通常,人们观测节点上的数据,任务是学习图结构,或执行图模型选择。尽管这是一个研究充分且拥有许多流行技术的问题,但通常存在三个主要实际挑战:i)许多现有算法在具有数万节点的海量数据场景下变得计算上难以处理;ii)对独立的数据驱动超参数调优的需求显著增加了计算负担;iii)所选边的统计精度常随着底层图结构的维度和/或复杂性的增加而恶化。我们通过开发新颖的小片图(MPGraph)估计器来解决这些问题。我们的方法通过创建观测值与节点两者的微小随机子集(称为小片)的集成,将海量图学习问题分解为许多较小问题。然后我们利用近期使用硬阈值化解决潜变量图模型问题以在每个小片上一致学习图的进展。我们的方法计算快速、极易并行化、内存高效,并具有集成的基于稳定性的超参数调优。此外,我们证明在比图 Lasso 更弱的假设下,我们的 MPGraph 估计器实现了图选择一致性。我们将我们的方法与用于高斯图模型选择的最先进计算方法(包括 BigQUIC 算法)进行比较,并凭经验证明我们的方法不仅统计上更准确,而且在海量图学习问题中也大幅更快。

关键词

引用

@article{arxiv.2110.12067,
  title  = {Fast and Accurate Graph Learning for Huge Data via Minipatch Ensembles},
  author = {Tianyi Yao and Minjie Wang and Genevera I. Allen},
  journal= {arXiv preprint arXiv:2110.12067},
  year   = {2024}
}

备注

This work has been submitted to the IEEE for possible publication