中文

DeepInnovator:触发 LLM 创新能力的框架

计算与语言 2026-02-24 v1 人工智能

摘要

大型语言模型(LLM)在加速科学发现方面的应用受到日益关注,关键焦点是构建具备创新能力的 research agent,即能够自主生成新颖且重要的 research idea 的能力。现有方法主要依赖复杂的 prompt engineering,且缺乏系统的训练范式。为此,我们提出 DeepInnovator,一个旨在触发 LLM 创新能力的训练框架。我们的方法包含两个核心组件。(1)'Standing on the shoulders of giants'。我们构建了一个自动数据提取管道,从大量无标签科学文献中提取并组织结构化的 research knowledge。(2)'Conjectures and refutations'。我们引入了'Next Idea Prediction'训练范式,将 research idea 的生成建模为持续预测、评估和细化 plausible and novel 下一想法的迭代过程。无论是自动评估还是专家评估,都表明我们的 DeepInnovator-14B 显著优于未训练的 baseline,实现了 80.53% - 93.81% 的胜率,并在性能上与当前领先的 LLM 相当。该工作为构建具备真正、原创性创新能力的 research agent 提供了可扩展的训练路径,并将开源数据集以促进社区发展。源代码和数据可在 https://github.com/HKUDS/DeepInnovator 获取。

关键词

引用

@article{arxiv.2602.18920,
  title  = {DeepInnovator: Triggering the Innovative Capabilities of LLMs},
  author = {Tianyu Fan and Fengji Zhang and Yuxiang Zheng and Bei Chen and Xinyao Niu and Chengen Huang and Junyang Lin and Chao Huang},
  journal= {arXiv preprint arXiv:2602.18920},
  year   = {2026}
}