端到端优化代理的索博列夫训练

优化代理——即经过训练以在单次前向传播中逼近参数化优化问题解映射的机器学习模型——相比传统迭代求解器，能大幅减少推理时间。本文研究了通过索博列夫训练范式将求解器灵敏度集成到此类端到端代理中，并在两种不同设置下进行：(i) 全监督代理，其中精确的求解器输出和灵敏度可用；(ii) 自监督代理，仅依赖底层优化问题的目标函数和约束结构。通过使用从求解器提取的方向导数信息增强标准训练损失，代理使其预测的解和局部导数与优化器的解和局部导数对齐。在真实解映射的利普希茨连续性假设下，匹配一阶灵敏度被证明能产生与训练集覆盖半径成正比的一致逼近误差。实证上，在每种研究设置中观察到不同的影响。在三个大型交流最优潮流基准测试上，监督式索博列夫训练将均方误差降低了高达 56%，将最坏情况约束违反的中位数降低了高达 400%，同时保持最优性间隙低于 0.22%。对于一个无标签解训练的均值-方差投资组合任务，自监督索博列夫训练在中等风险区域（标准差高于预算的 10%）将平均最优性间隙减半，并在其他区域与基线持平。这些结果共同表明，索博列夫训练——无论是监督式还是自监督式——是通往安全关键型大规模优化工作负载的快速可靠替代模型的一条路径。