SciML Agents：编写求解器，而非解
机器学习
2026-04-15 v1 数值分析
数值分析
摘要
科学机器学习的近期工作旨在通过神经网络直接预测目标值来解决科学任务（例如，物理信息神经网络、神经 ODE、神经算子等），但实现高精度和鲁棒性一直具有挑战性。我们探索了一种替代视角：使用 LLM 编写利用数十年数值算法的代码。这将负担从学习解函数转移到了做出领域感知的数值选择上。我们探讨 LLM 能否作为 SciML agents，在给定自然语言 ODE 描述时，生成科学上合理的可运行代码，选择合适的求解器（刚性 vs. 非刚性），并执行稳定性检查。目前没有基准来衡量科学计算任务的这种能力。因此，我们首先引入两个新数据集：一个由对抗性“误导”问题组成的诊断数据集；以及一个包含 1,000 个不同 ODE 任务的大规模基准。诊断集包含那些表面特征暗示刚性、且需要代数简化以证明非刚性的问题；而大规模基准涵盖刚性和非刚性 ODE 机制。我们沿两个轴评估开源和闭源 LLM 模型： 带有领域特定知识的无引导 vs. 有引导提示；以及 现成 vs. 微调变体。我们的评估衡量了与参考解相比的可执行性和数值有效性。我们发现，在充足的上下文和有引导的提示下，较新的指令遵循模型在两个标准上均达到了高精度。在许多情况下，近期的开源系统无需微调即可表现优异，而较旧或较小的模型仍能从微调中受益。总体而言，我们的初步结果表明，谨慎的提示和微调可以产生一个专门的 LLM agent，能够可靠地求解简单的 ODE 问题。
引用
@article{arxiv.2509.09936,
title = {SciML Agents: Write the Solver, Not the Solution},
author = {Saarth Gaonkar and Xiang Zheng and Haocheng Xi and Rishabh Tiwari and Kurt Keutzer and Dmitriy Morozov and Michael W. Mahoney and Amir Gholami},
journal= {arXiv preprint arXiv:2509.09936},
year = {2026}
}