中文

NCVX:一个用户友好且可扩展的机器学习非凸优化包

机器学习 2022-01-04 v2 计算机视觉与模式识别 数学软件 信号处理 最优化与控制

摘要

优化非凸(NCVX)问题,尤其是非光滑且带约束的问题,是机器学习的重要组成部分。然而,若无优化专业知识,往往难以可靠地求解此类问题。现有的通用NCVX优化包功能强大,但通常无法处理非光滑性。GRANSO是最早面向带非光滑约束的一般非光滑NCVX问题的优化求解器之一,但由于其基于MATLAB实现且要求用户提供解析梯度,GRANSO在机器学习(尤其是深度学习)应用中往往不是便捷的选择。为大幅降低技术门槛,我们推出名为NCVX的新软件包,其初始版本包含求解器PyGRANSO——一个支持PyTorch的GRANSO移植版,集成了自动微分、GPU加速、张量输入以及对新型QP求解器的支持。NCVX构建于免费且广泛使用的开源框架之上,其突出之处在于可求解通用约束深度学习问题,属首创。NCVX可在 https://ncvx.org 获取,附有详细文档及来自机器学习与其他领域的众多示例。

关键词

引用

@article{arxiv.2111.13984,
  title  = {NCVX: A User-Friendly and Scalable Package for Nonconvex Optimization in Machine Learning},
  author = {Buyun Liang and Tim Mitchell and Ju Sun},
  journal= {arXiv preprint arXiv:2111.13984},
  year   = {2022}
}

备注

NCVX is available at https://ncvx.org