一种用于学习高维广义线性模型的支持检测与求根方法
机器学习
2020-01-17 v1 机器学习
统计计算
摘要
特征选择对于建模高维数据十分重要，其中变量个数可能远大于样本量。本文中，我们提出了一种支持检测与求根过程来学习高维稀疏广义线性模型，并将该方法记为 GSDAR。基于 惩罚最大似然估计的 KKT 条件，GSDAR 迭代地生成一系列估计量。在最大似然函数满足某些受限可逆性条件且目标系数满足稀疏性假设下，所提估计的误差以指数速率衰减至最优阶。此外，若目标信号强于可检测水平，则可恢复 oracle 估计量。我们进行了模拟与真实数据分析，以说明所提方法相对于若干现有方法（包括 Lasso 和 MCP）的优势。
引用
@article{arxiv.2001.05819,
title = {A Support Detection and Root Finding Approach for Learning High-dimensional Generalized Linear Models},
author = {Jian Huang and Yuling Jiao and Lican Kang and Jin Liu and Yanyan Liu and Xiliang Lu},
journal= {arXiv preprint arXiv:2001.05819},
year = {2020}
}