WHInter:一种用于高维稀疏二阶交互模型的工作集算法
定量方法
2018-02-19 v1 机器学习
机器学习
摘要
在许多应用领域(如基因组学)中,学习具有两两交互的稀疏线性模型是值得追求的。l1正则化线性模型常用于估计稀疏模型,但标准实现未能专门解决高维下候选两两交互项呈二次爆炸增长的问题,且通常无法扩展到具有数十万特征遗传数据。本文提出 WHInter,一种针对二元设计矩阵、求解带两两交互的大规模 l1 正则化问题的工作集算法。WHInter 的新颖性在于一种新的边界,可高效识别工作集而避免扫描所有特征,以及受最大内积搜索问题解法启发的快速计算。我们将 WHInter 应用于模拟和真实遗传数据,结果表明其比当前最优方法更具可扩展性且快两个数量级。
引用
@article{arxiv.1802.05980,
title = {WHInter: A Working set algorithm for High-dimensional sparse second order Interaction models},
author = {Marine Le Morvan and Jean-Philippe Vert},
journal= {arXiv preprint arXiv:1802.05980},
year = {2018}
}