标准高斯设计下正则化Cox回归模型的可观测渐近性：一种统计力学方法

我们研究了正则化最大偏似然估计（RMPLE）在比例极限下的渐近行为，考虑任意凸正则化器，并假设协变量 $\mathbf{X}_i\in\mathbb{R}^{p}$ 对每个 $i=1, \dots, n$ 服从协方差为 $\mathbf{I}_p/p$ 的多元高斯分布。为了高效计算所研究的估计量，我们提出了一种改进的近似消息传递（AMP）算法，命名为COX-AMP，并将其与作为参考的坐标下降（CD）算法进行了性能比较。通过复制方法，我们推导出一组六个复制对称（RS）方程，并证明当样本量和协变量数量较大且相当时，这些方程能正确描述估计量的平均行为。这些方程在实践中无法求解，因为数据生成过程（我们试图估计的）是未知的。然而，COX-AMP的更新方程提示构建一个局部场，该局部场可用于仅从数据中准确估计理论的所有RS序参数，而无需实际求解RS方程。我们强调，这种方法适用于通过任何方法计算的估计量，并不局限于COX-AMP。一旦估计出RS序参数，我们就可以直接从数据中获取RMPLE中的信号和噪声量，以及其泛化误差。尽管我们关注的是偏似然目标，但我们预见到本文提出的方法具有更广泛的应用，例如应用于包含非比例风险模型（如加速失效时间模型）的带 nuisance 参数的广义线性模型。