SLOPE与准球形OSCAR的精确解路径算法
统计方法学
2020-10-30 v1 机器学习
统计计算
摘要
排序惩罚估计量（SLOPE）是一种针对高维回归中排序绝对系数的正则化技术。通过在单调性约束下任意设置其正则化权重，SLOPE可具备多种特征选择与聚类性质。在权重调优方面，所选特征及其聚类对调参非常敏感。此外，使用网格搜索方法难以详尽追踪其变化。本研究提出一种解路径算法，为SLOPE在微调正则化权重时提供完整且精确的解路径。推导了SLOPE的一个简单最优性条件，并用于确定解路径的下一个分裂点。本研究还提出了一种用于特征聚类的正则化序列新设计，称为准球形八边形收缩与回归聚类算法（QS-OSCAR）。QS-OSCAR的设计使其正则化项的等高面最接近球体。在若干正则化序列设计中，通过模拟研究比较了稀疏性与聚类性能。数值观察表明，QS-OSCAR比其他设计更高效地进行特征聚类。
引用
@article{arxiv.2010.15511,
title = {An Exact Solution Path Algorithm for SLOPE and Quasi-Spherical OSCAR},
author = {Shunichi Nomura},
journal= {arXiv preprint arXiv:2010.15511},
year = {2020}
}