一种快速可扩展的联合估计器：在多个相关稀疏高斯图模型学习中融合额外知识
机器学习
2019-04-18 v4 机器学习
摘要
我们考虑在从聚合样本估计稀疏高斯图模型(sGGMs)时融入额外知识的问题，这常出现在生物信息学与神经成像应用中。先前的联合 sGGM 估计器要么未能利用已有知识，要么在高维(大 )情形下无法扩展到多任务(大 )。本文中，我们提出一种新颖的融合额外知识的联合基础估计器(JEEK)以从大规模异质数据推断多个相关稀疏高斯图模型。利用领域知识作为权重，我们设计了一种新颖的混合范数作为最小化目标，以强制两种加权稀疏约束的叠加，一种针对共享交互，另一种针对任务特定结构模式。这使得 JEEK 能优雅地考虑基于手头领域的各种形式已有知识，并避免设计知识特定优化的需要。JEEK 通过一种快速且可按元素并行化的求解方案求解，将最先进的计算复杂度从 大幅提升至 。我们进行了严格的统计分析，表明 JEEK 达到了与难计算得多的最先进估计器相同的收敛率 。在经验上，在多个合成数据集与两个真实世界数据上，JEEK 在显著优于最先进方法速度的同时达到了同等预测精度水平。作为 R 工具可用 @ http://jointnets.org/
引用
@article{arxiv.1806.00548,
title = {A Fast and Scalable Joint Estimator for Integrating Additional Knowledge in Learning Multiple Related Sparse Gaussian Graphical Models},
author = {Beilun Wang and Arshdeep Sekhon and Yanjun Qi},
journal= {arXiv preprint arXiv:1806.00548},
year = {2019}
}
备注
ICML 2018; Proof and Design of W in Appendix; Available as R tool "jeek". This updated version correct a few equation errors