论高维 Ising 模型 Lasso 的模型选择一致性

我们从理论上分析了高维 Ising 模型中最小绝对收缩和选择算子（Lasso）在有无后阈值化情况下的模型选择一致性。对于大小为 $p$、节点度为 $d$ 且耦合为 $\theta_0$ 的随机正则（RR）图，严格证明了在整个顺磁相中，无后阈值化的 Lasso 具有模型选择一致性，且其样本复杂度 $n=\Omega{(d^3\log{p})}$ 与 $\ell_1$ 正则化逻辑回归（$\ell_1$-LogR）相同。该结果与 Meng、Obuchi 和 Kabashima 2021 年使用统计物理学中非严格的副本方法得到的猜想一致，从而以严格的证明补充了该猜想。对于一般的类树图，证明了在依赖性条件和非相干性条件的温和假设下，可以获得与 RR 图相同的结果。此外，对于顺磁相中的一般类树图，在不进一步假设依赖性和非相干性条件的情况下，我们提供了带后阈值化的 Lasso 模型选择一致性的严格证明。实验结果与我们的理论分析吻合良好。