OKRidge：可扩展的最优k稀疏岭回归
机器学习
2024-01-15 v3 机器学习
摘要
我们考虑科学发现中的一个重要问题，即为非线性动力系统识别稀疏控制方程。这涉及可证明最优地求解稀疏岭回归问题，以确定哪些项驱动底层动力学。我们提出了一种快速算法OKRidge用于稀疏岭回归，使用一种新颖的下界计算，首先涉及鞍点公式，并由此要么求解（i）一个线性系统，要么（ii）使用基于ADMM的方法，其中近端算子可通过求解另一个线性系统和单调回归问题高效评估。我们还提出了一种利用集束搜索热启动我们求解器的方法。在实验中，我们的方法达到了可证明的最优性，其运行时间比由商业求解器Gurobi求解的现有MIP公式快几个数量级。
引用
@article{arxiv.2304.06686,
title = {OKRidge: Scalable Optimal k-Sparse Ridge Regression},
author = {Jiachang Liu and Sam Rosen and Chudi Zhong and Cynthia Rudin},
journal= {arXiv preprint arXiv:2304.06686},
year = {2024}
}
备注
NeurIPS 2023 Spotlight