中文

ReMIND:用于可控 serendipity(意外收获)的模块化大语言模型编排——一种受 REM 启发的系统设计用于涌现式创造性构思

计算与语言 2026-01-13 v1 人工智能

摘要

大型语言模型(LLM)不仅用于问题解决,也用于创造性构思;然而,引导模型产生既新颖又内在连贯的意外收获见解仍然困难。虽然随机抽样可促进新颖性,但往往会损害一致性。本文提出了 ReMIND,一个受 REM(快速眼动)启发的模块化框架用于构思。ReMIND 包含四个阶段:清醒阶段(wake),生成稳定的低温语义基线;梦境阶段(dream),进行高温探索性生成;评判阶段(judge),对不连贯的输出进行粗略评估以筛选并提取候选想法;再清醒阶段(re-wake),将选定想法重新阐述为连贯的最终输出。通过将每个阶段实例化为独立的 LLM,ReMIND 实现了探索与巩固之间的功能分离。参数扫描显示,ReMIND 可靠地引导语义探索,同时保持下游稳定性。基于嵌入的分析确认,梦境阶段发生了显著的语义位移,而外部评估表明,高质量想法的出现是零星的,而非沿任何单一指标的极值。这些结果表明,LLM 中的意外构思是一种罕见事件过程,最佳方法是通过系统层面的设计来塑造有价值想法能够涌现并被稳定化的条件。ReMIND 提供了一个通用框架,用于研究意外性的计算基础,并说明了模块化 LLM 编排如何桥接探索与稳定化之间的关系。

关键词

引用

@article{arxiv.2601.07121,
  title  = {ReMIND: Orchestrating Modular Large Language Models for Controllable Serendipity A REM-Inspired System Design for Emergent Creative Ideation},
  author = {Makoto Sato},
  journal= {arXiv preprint arXiv:2601.07121},
  year   = {2026}
}