大型语言模型作为受约束双目标凸优化的摊薄帕累托前沿生成器
人工智能
2026-05-13 v1
摘要
为受约束的双目标连续优化生成可行的帕累托前沿是多准则决策的核心问题。现有方法通常依赖于迭代标量化、进化搜索或问题特定的求解器，需要为每个实例重复求解。我们提出 DIPS 框架，通过微调大型语言模型作为受约束双目标凸优化的摊薄帕累托前沿生成器。给定文本化问题描述，DIPS 直接输出一组有序的可行连续决策向量，近似于帕累托前沿。为使连续优化与自回归语言建模兼容，DIPS 结合紧凑离散化方案、针对新数值 token 的数值依据初始化，以及三阶段课程优化，逐步对结构有效性、可行性和帕累托前沿质量进行对齐。在五类受约束双目标凸问题中，经过微调的 7B 参数模型实现了 95.29% 至 98.18% 的归一化超体积比，接近参考前沿。借助 vLLM 加速推理，DIPS 最可快在 0.16 秒内解决一个实例，并在所评估的设置下超越了通用和推理 LLM 框架。这些结果表明，LLM 可作为连续帕累托前沿近似的有效摊薄生成器。
引用
@article{arxiv.2605.12106,
title = {Large Language Models as Amortized Pareto-Front Generators for Constrained Bi-Objective Convex Optimization},
author = {Peipei Xu and SiYuan Ma and Yaohua Liu and Yu Wu and Guanliang Liu and Yang Zhang and Yong Liu},
journal= {arXiv preprint arXiv:2605.12106},
year = {2026}
}
备注
31 pages