高维逻辑回归中极大似然估计存在的相变
统计方法学
2018-04-27 v1 机器学习
摘要
本文严格确立了具有高斯协变量的高维逻辑回归模型中极大似然估计(MLE)的存在性经历一个尖锐的“相变”。我们引入一条显式边界曲线,由衡量未知回归系数序列总体幅度的两个标量参数化,并具有如下性质:在样本量与特征数满足的比例关系且二者均趋于无穷的极限下,我们证明若问题在维度上足够高,即,则MLE以概率一不存在。反之,若,则MLE以概率一渐近存在。
引用
@article{arxiv.1804.09753,
title = {The phase transition for the existence of the maximum likelihood estimate in high-dimensional logistic regression},
author = {Emmanuel J. Candes and Pragya Sur},
journal= {arXiv preprint arXiv:1804.09753},
year = {2018}
}
备注
15 pages, 2 figures