输出空间搜索：在冻结编码器定义的输出空间中定位 LLM 生成
计算与语言
2026-01-30 v1 人工智能
摘要
我们提出了输出空间搜索（OS-Search），将 LLM 生成转化为端点搜索。外层循环在冻结编码器定义的 3D 输出空间 Z 中选择目标 z*，而一个以序列级强化学习训练的、基于检索的策略在标准自回归解码下生成其坐标落在 z* 附近的输出。这使得在 Z 中进行并行扫描和黑箱优化成为可能，而无需依赖路径相关的标记/程序搜索。在故事任务上，扫描 Z（文本）实现了比提示链式方法高 3.1 倍的 LLM 评分多样性。在代码任务上，对 Z（代码）进行贝叶斯优化在匹配的推理预算下改进了对控制器隐藏的客观指标，同时保持了有效性。
引用
@article{arxiv.2601.21169,
title = {Output-Space Search: Targeting LLM Generations in a Frozen Encoder-Defined Output Space},
author = {Tobias Materzok},
journal= {arXiv preprint arXiv:2601.21169},
year = {2026}
}