大语言模型中基于散布的创新传播用于多阶段过程适应
计算与语言
2025-06-24 v1 人工智能
摘要
大语言模型(LLMs)在再训练期间观察到的模式复制和延伸方面表现出强大的能力，但常常难以在原有上下文之外推广新想法。本文旨在解决将特定阶段或组件引入的局部创新应用于多阶段过程其他部分的挑战。我们提出了一种散布式创新扩展模型(创新散布模型)，通过四个步骤引导LLM：(1)通过比较用户输入与其周围上下文来识别核心创新，(2)通过删除对特定阶段或组件的引用来对创新进行泛化，(3)确定泛化创新是否适用于原阶段之外的更广范围，(4)通过LLM系统性地将其应用于其他结构上相似的阶段。该模型利用跨阶段的结构冗余来提高新想法的适用性。验证结果表明，创新散布模型使LLMs能够在结构上相似的阶段之间延伸创新，从而增强泛化和重用能力。
引用
@article{arxiv.2506.17949,
title = {Scatter-Based Innovation Propagation in Large Language Models for Multi-Stage Process Adaptation},
author = {Hong Su},
journal= {arXiv preprint arXiv:2506.17949},
year = {2025}
}