T-LoHo：一种用于图上结构化稀疏性与平滑性的贝叶斯正则化模型
统计方法学
2021-10-28 v2 机器学习
摘要
图常被用于表示复杂数据结构。在处理图结构数据的模型中，多元参数可能不仅呈现稀疏模式，而且具有结构化稀疏性与平滑性，即零参数与非零参数均倾向于聚簇在一起。我们针对具有图关系的高维参数提出一种新先验，称为基于树的低秩马蹄（T-LoHo）模型，它将流行的单变量贝叶斯马蹄收缩先验推广到多元设定，以同时检测结构化稀疏性与平滑性。T-LoHo 先验可嵌入许多高维层次模型中。为说明其效用，我们将其应用于正则化一个贝叶斯高维回归问题，其中回归系数由图连接，从而使得所得聚簇具有灵活形状并满足关于图的聚簇连续性约束。我们设计了一种高效的马尔可夫链蒙特卡洛算法，可对模型参数（如聚簇数量）提供带不确定性度量的完整贝叶斯推断。我们给出了关于聚簇效应与后验集中性的理论探究。最后，我们通过模拟研究以及道路网络异常检测的真实数据应用展示了模型表现。结果表明其相较其他竞争方法（如稀疏融合 lasso）有实质性改进。
引用
@article{arxiv.2107.02510,
title = {T-LoHo: A Bayesian Regularization Model for Structured Sparsity and Smoothness on Graphs},
author = {Changwoo J. Lee and Zhao Tang Luo and Huiyan Sang},
journal= {arXiv preprint arXiv:2107.02510},
year = {2021}
}
备注
12 pages, 5 figures, Accepted to Thirty-fifth Conference on Neural Information Processing Systems(NeurIPS 2021), poster presentation