超越答案：解码大语言模型作为科学推理者的行为
人工智能
2026-03-31 v1 机器学习
摘要
随着大型语言模型（LLM）在复杂推理任务上实现日益精细的性能，当前的架构作为前沿模型内部启发式的关键代理人。表征涌现推理对于长期可解释性和安全性至关重要。此外，理解提示如何调制这些过程也至关重要，因为自然语言很可能是与人工通用智能系统交互的主要接口。本文中，我们使用定制的遗传博弈Pareto（GEPA）变体，系统性地优化用于科学推理任务的提示，并分析提示如何影响推理行为。我们研究GEPA优化提示中固有的结构模式和逻辑启发式，并评估其可迁移性和脆弱性。我们的发现表明，科学推理的提升往往对应于特定模型的启发式，这些启发式在跨系统之间无法普遍化，我们称之为“局部”逻辑。将提示优化作为模型可解释性的工具，我们认为，为大语言模型映射这些首选推理结构是有效与超人类智能合作的重要前提。
引用
@article{arxiv.2603.28038,
title = {Beyond the Answer: Decoding the Behavior of LLMs as Scientific Reasoners},
author = {Rohan Pandey and Eric Ye and Michael Li},
journal= {arXiv preprint arXiv:2603.28038},
year = {2026}
}
备注
Accepted at the Post-AGI Science and Society Workshop at ICLR 2026