中文

高效可微二次规划层:一种ADMM方法

最优化与控制 2021-12-15 v1 人工智能 机器学习 投资组合管理 机器学习

摘要

神经网络的近期进展允许将凸优化问题作为可微层无缝集成到端到端可训练神经网络中。然而,将中大规模二次规划集成到深度神经网络架构中具有挑战性,因为通过内点法精确求解二次规划在最坏情况下对变量数具有三次复杂度。本文提出一种基于交替方向乘子法(ADMM)的替代网络层架构,能够扩展到具有中等大量变量的问题。反向微分通过对修正不动点迭代的残差映射进行隐式微分来完成。仿真结果展示了ADMM层的计算优势,对于中等规模问题其比OptNet二次规划层快约一个数量级。此外,与基于展开微分或KKT最优性条件隐式微分的标准方法相比,我们新颖的反向传播例程在内存和计算两方面均高效。我们以集成预测与优化范式中的投资组合优化为例作结。

关键词

引用

@article{arxiv.2112.07464,
  title  = {Efficient differentiable quadratic programming layers: an ADMM approach},
  author = {Andrew Butler and Roy Kwon},
  journal= {arXiv preprint arXiv:2112.07464},
  year   = {2021}
}