对数复杂度的生成式神经常算子可同时求解无穷多个凸规划
机器学习
2025-08-22 v1 数值分析
数值分析
最优化与控制
计算金融
摘要
神经常算子（NOs）是一类深度学习模型，旨在通过将无穷多个相关问题投射到这些 NOs 所操作的无穷维空间中来同时求解它们。理论与实践之间仍存在显著差距：通用逼近定理的最坏情况参数界限表明，NOs 可能需要不切实际的大量参数来解决大多数算子学习问题，这与大量实验证据直接矛盾。本文针对一类特定的 NOs，即生成式平衡算子（GEOs），在使用（现实的）有限维深度平衡层求解可分希尔伯特空间 X 上的凸优化问题族时，弥合了这一差距。在这里，输入是 X 上的光滑凸损失函数，输出是由每个输入损失定义的优化问题的相关（近似）解。我们证明，当输入损失位于合适的无穷维紧集中时，我们的 GEO 可以以任意精度一致逼近相应的解，其秩、深度和宽度仅随逼近误差的倒数呈对数增长。然后，我们在三个应用中验证了我们的理论结果和 GEOs 的可训练性：（1）非线性偏微分方程，（2）随机最优控制问题，以及（3）流动性约束下的数学金融对冲问题。
引用
@article{arxiv.2508.14995,
title = {Generative Neural Operators of Log-Complexity Can Simultaneously Solve Infinitely Many Convex Programs},
author = {Anastasis Kratsios and Ariel Neufeld and Philipp Schmocker},
journal= {arXiv preprint arXiv:2508.14995},
year = {2025}
}