基于聚类的图模型的高维推断
机器学习
2020-06-09 v2 机器学习
统计理论
统计理论
摘要
受现代应用中基于大量特征构建图模型的驱动,本文引入一类新的基于聚类的图模型,其中变量聚类作为降低特征空间维度的初始步骤。我们采用模型辅助聚类,其中簇包含类似于同一未观测潜变量的特征。考虑两种不同的基于聚类的高斯图模型:潜变量图,对应于与未观测潜变量相关的图模型;以及簇平均图,对应于在簇上平均的特征向量。我们的研究揭示,先前未分析的潜变量图似然推断在分析上不可处理。我们的主要贡献是开发并分析针对不可观测潜向量 的精度矩阵的替代估计与推断策略。我们用适当类的经验风险函数替代数据的似然,其可特化为潜图模型以及更简单但欠分析的簇平均图模型。由此导出的估计量可用于图结构推断,例如边强度或模式恢复。推断基于所考虑条件独立图精度矩阵逐元素估计的渐近极限。在考虑聚类步骤引入的不确定性的同时,我们为所提估计量建立 Berry-Esseen 中心极限定理。值得注意的是,尽管簇是从数据中自适应估计的,所估计图条目相关的中心极限定理在与簇已知时所用相同条件下得证。
引用
@article{arxiv.1806.05139,
title = {High-Dimensional Inference for Cluster-Based Graphical Models},
author = {Carson Eisenach and Florentina Bunea and Yang Ning and Claudiu Dinicu},
journal= {arXiv preprint arXiv:1806.05139},
year = {2020}
}