Libra 教程：高维统计中的线性化 Bregman 算法 R 包
应用统计
2016-04-21 v1
摘要
R 包 Libra 代表高维统计中的线性化 Bregman 算法（Linearized Bregman Algorithm）。线性化 Bregman 算法是一种简单的迭代过程，用于生成模型估计的稀疏正则化路径，其最初在应用数学中为图像复原而发现，特别适合大规模问题的并行实现。该算法的极限是一种稀疏约束的梯度下降流，称为逆尺度空间（Inverse Scale Space），沿着从零模型到过拟合模型的稀疏模型的简约路径演化。在稀疏线性回归中，具有早停正则化的动力学可以在与 LASSO 几乎相同的条件下可证明地达到无偏 Oracle 估计量，而后者是有偏的。尽管有成功应用，此类动态算法的统计一致性理论在很大程度上仍是开放的，除了线性回归的一些近期进展。在本教程中，讨论了该包中针对统计学中几种广泛使用的稀疏模型的算法实现，包括线性回归、逻辑回归以及几种图模型（高斯、Ising 和 Potts）。除仿真示例外，还展示了各种应用案例，使用了来自糖尿病、COPSS 奖项获得者出版物以及两部中国古典小说《西游记》和《红楼梦》社交网络的真实世界数据集。
引用
@article{arxiv.1604.05910,
title = {A Tutorial on Libra: R package for the Linearized Bregman Algorithm in High Dimensional Statistics},
author = {Jiechao Xiong and Feng Ruan and Yuan Yao},
journal= {arXiv preprint arXiv:1604.05910},
year = {2016}
}