中文

从多面体到锥几何:学习凸函数代理函数的 SOC-ICNN

机器学习 2026-05-06 v2 最优化与控制 机器学习

摘要

经典的基于 ReLU 的输入凸神经网络 (ICNN) 等价于线性规划 (LP) 的最优值函数。这种内在的结构等价性限制了它们的表示能力仅能表示分段线性多面体函数。为克服这一表示瓶颈,我们提出了 SOC-ICNN,将底层优化类从 LP 推广到二阶锥规划 (SOCP)。通过显式注入正半定制曲率和欧几里得范数基准的锥原语,我们的公式在保持严格优化理论解释的同时,引入了原生平滑曲率到表示中。我们正式证明了 SOC-ICNN 在不增加前向通过复杂度的前提下,严格扩大了 ReLU-ICNN 的表示空间。大量实验表明,SOC-ICNN 在函数逼近方面显著提升,同时在下游决策质量方面表现出竞争力。代码已公开于 https://anonymous.4open.science/r/SOC-ICNN-4B18/。

关键词

引用

@article{arxiv.2604.22355,
  title  = {SOC-ICNN: From Polyhedral to Conic Geometry for Learning Convex Surrogate Functions},
  author = {Kang Liu and Jianchen Hu and Wei Peng},
  journal= {arXiv preprint arXiv:2604.22355},
  year   = {2026}
}