ModeX：无评估器的最佳-N选择用于开放式生成

从多个随机生成中选择单个高质量输出仍是大型语言模型 (LLMs) 的根本性挑战，特别是在没有标准答案的开放式任务中。虽然 Best-of-N 和 self-consistency 方法表明，聚合多个生成可提高性能，但现有方法通常依赖于外部评估器、奖励模型或精确字符串匹配投票，限制了其适用性和效率。我们提出了 Mode Extraction (ModeX)，一种无评估器的最佳-N选择框架，通过识别代表生成文本中 dominant 语义共识的模态输出来泛化多数投票，用于开放式文本生成。ModeX 在候选生成之间构建相似度图，并递归应用谱聚类来选择代表性质心，不需要额外的推理或辅助模型。我们进一步以 ModeX-Lite 实例化这种选择原则，这是一种具有早期修剪的 ModeX 改进版本。在开放式任务中--包括文本摘要、代码生成和数学推理--我们的方法始终优于标准单路径和多路径基线，为稳健的开放式文本生成提供了一个计算高效的解决方案。代码已在 https://github.com/deeplearning-wisc/ModeX 上发布。