硬约束遇上软生成：基于大语言模型的组合优化保证可行性
人工智能
2026-02-03 v1
摘要
大语言模型（LLMs）作为组合优化（CO）的通用求解器不断涌现，但它们本质上缺乏确保解的可行性机制，这一特性对实际部署至关重要。本文引入FALCON框架，通过三项关键创新实现100%的可行性保证：（i）语法受约束的解码确保语法有效性，（ii）可行性修复层纠正语义约束违规，（iii）自适应Best-of-采样高效分配推理计算。为训练底层LLM，我们提出基于最佳锚定目标引导的偏好优化（BOPO），该方法按目标间隙对偏好对进行加权，无需人工标签即可提供稠密监督。理论上，我们为BOPO证明了收敛性，并给出修复导致的质量损失的界限。实证上，在七类NP难CO问题上，FALCON在实现完美可行性的同时，匹配或超越了最先进的神经网络和基于LLM的求解器的解的质量。
引用
@article{arxiv.2602.01090,
title = {Hard Constraints Meet Soft Generation: Guaranteed Feasibility for LLM-based Combinatorial Optimization},
author = {Yang Liu and Chuan Zhou and Yancheng Chen and Shuai Zhang and Xixun Lin and Xiaoqing Wang},
journal= {arXiv preprint arXiv:2602.01090},
year = {2026}
}
备注
32 pages, 2 figures