思想宇宙：启用大型语言模型的创造性推理

基于大型语言模型(LLM)的推理因其在数学和复杂逻辑任务中的卓越性能而受到日益关注。自从引入链式思维(CoT)提示技术以来,诸多推理方法涌现,将问题分解为更小的、顺序步骤(或思维)。然而,现有的推理模型聚焦于常规问题解决,不一定能够通过"创造性推理"生成创造性解决方案。在解决方案空间广阔且常规解决方案次优的领域(如药物发现或商业战略),创造性推理以发现创新解决方案至关重要。为此,我们首先引入一个受认知科学原理启发的创造性推理计算框架。借助该框架,我们提出了三个核心创造性推理范式,即 combinational(组合)、exploratory(探索)和 transformative(转化)推理,其中每个范式都为系统性探索思想宇宙以生成创造性解决方案提供了具体方向。接下来,为了用LLM实现该框架,我们引入了"思想宇宙"(或UoT,简称)的 novel 方法集合,以实现上述三个创造过程。最后,我们引入三个需要创造性问题解决的 novel 任务,并提供一个评估基准,从三个正交视角(可行性约束、实用性和新颖性)评估创造性。通过对比分析SOTA推理技术以及具备推理能力的代表性商业模型,我们表明UoT在创造性推理方面表现优于现有方法。