语言模型是否擅长顺序优化问题？从评估到一种源自黑格尔的增强方法
计算与语言
2025-02-05 v1 人工智能
摘要
大型语言模型(LLMs)已在诸多领域展现出惊人的能力，为革新解决优化问题的能力——这一关键且普遍且复杂的领域——提供了机会。本文探讨了 LLMs 处理顺序优化问题(SOPs)的水平。我们引入 WorldGen，一个用于生成可控复杂度下游 SOP 的动态框架，以评估 LLM 性能。我们的初始观察表明，尽管 LLMs 在简单 SOP 上表现良好，但在复杂度提升后性能显著下降。受此启发，我们重新审视了关于推理的哲学假设以提升 LLM 性能。深受黑格尔辩证法框架影响，我们提出 ACE，展示了在 SOP 语境中，如何在无需重新训练或进一步微调的情况下显著提高 LLM 的性能。
引用
@article{arxiv.2502.02573,
title = {Are Language Models Up to Sequential Optimization Problems? From Evaluation to a Hegelian-Inspired Enhancement},
author = {Soheil Abbasloo},
journal= {arXiv preprint arXiv:2502.02573},
year = {2025}
}