Flow-of-Options: 通过思考选项实现多样化和改进的 LLM 推理
机器学习
2025-06-02 v2 人工智能
计算与语言
摘要
我们提出了一种新的推理方法 Flow-of-Options（FoO），旨在解决大语言模型（LLMs）中的内在偏见。Flow-of-Options 使 LLM 能够系统地探索其推理中的多样化可能性，如一个基于 FoO 的智能体框架所示，该框架用于自主解决机器学习（ML）任务。FoO 通过压缩和可解释的任务表示强制 LLM 解决方案的多样性，与最先进的基线相比，在标准数据科学任务上实现了 38.2%–69.2% 的提升，在治疗化学任务上实现了 37.4%–47.9% 的提升。我们的框架每项任务的操作成本低于 1 美元，非常适合成本敏感的应用。除了表格分类和回归，我们还展示了基于 FoO 的智能体系统在强化学习和图像生成等任务中的更广泛应用。我们的代码已开源，地址为：https://github.com/flagshippioneering/Flow-of-Options。
引用
@article{arxiv.2502.12929,
title = {Flow-of-Options: Diversified and Improved LLM Reasoning by Thinking Through Options},
author = {Lakshmi Nair and Ian Trase and Mark Kim},
journal= {arXiv preprint arXiv:2502.12929},
year = {2025}
}
备注
ICML 2025