自反型大型语言模型：黑格尔辩证法的应用
计算与语言
2025-06-25 v6 人机交互
机器学习
摘要
通过哲学视角探讨自然语言处理 (NLP) 近期受到研究者关注，这源于将计算方法与古典哲学学派相结合的可能性。本文引入一种受黑格尔辩证法启发的哲学框架，以实现大型语言模型 (LLM) 的自我反思，采用自我辩证方法以模拟内部批判并综合新的科学想法（涵盖数学、物理等多个领域）。此外，我们探讨了生成温度对 LLMs 影响，通过引入动态退火方法鼓励在早期阶段的创造性，逐步聚焦于细化与精细，以及恒温策略。我们还实现了多智能体多数投票 (Multi-Agent Majority Voting, MAMV) 策略，以评估所生成想法的有效性和新颖性，这在缺乏领域专家时尤为有用。我们还评估了该方法在生成新科学想法方面的效果以及提升 LLMs 推理能力的效果。我们的实验结果表明，该方法在构思方面表现有前景，并在数学和符号推理方面实现显著改进。
引用
@article{arxiv.2501.14917,
title = {Self-reflecting Large Language Models: A Hegelian Dialectical Approach},
author = {Sara Abdali and Can Goksen and Michael Solodko and Saeed Amizadeh and Julie E. Maybee and Kazuhito Koishida},
journal= {arXiv preprint arXiv:2501.14917},
year = {2025}
}