交互式进化：面向大语言模型的神经符号自训练框架

大型语言模型 (LLM) 的优异性能主要归功于其广泛可获得的人类标注自然语言数据的大量使用，用于对齐微调。这激发了研究人员调查自训练方法以减轻对人类标注的广泛依赖。然而，当前自训练的成功主要观察于自然语言场景，而在日益重要的神经符号场景中却表现有限。为此，我们提出了名为 ENVISIONS 的环境导向神经符号自训练框架，旨在克服两个主要挑战：$(i)$ 符号数据的稀缺，$(ii)$ 大语言模型在处理符号语言方面的有限熟练程度。在三个不同领域进行的广泛评估表明，我们的方法效果显著。此外，我们进行了全面分析，以揭示 ENVISIONS 成功因素，为该领域的未来研究提供了宝贵见解。代码将在 https://github.com/xufangzhi/ENVISIONS 上提供。