以星形 reasoning:一个赤太阳能源学数据集与代理科学推理基准
人工智能
2026-02-10 v2 太阳与恒星天体物理
机器学习
空间物理
摘要
通过大型语言模型进行科学推理在赤太阳能源学 (heliophysics) 中涉及不仅仅是记忆事实,还需要整合物理假设、保持一致的单位,并通过协调的方法提供清晰的科学格式。为此,我们提出了 Reasoning With a Star,一个新提交的赤太阳能源学数据集,适用于推理任务;我们还提供了一个初始的基准方法。我们的数据来源于美国国家航空航天局 (NASA) 与 University Corporation for Atmospheric Research 合资公司共同举办的 Living With a Star 夏季学校问题集合,整理为可直接使用的问答结构,包含问题背景、推理步骤、预期答案类型、ground-truth 目标、格式提示和元数据。一个程序化的评分器通过单位感知的数值容差、符号等价性和模式验证来检查预测结果。我们对单个样本基线和四种多代理模式进行基准测试,发现通过系统工程原则分解工作流程在需要演绎推理而非纯粹归纳记忆的问题上优于直接提示。
引用
@article{arxiv.2511.20694,
title = {Reasoning With a Star: A Heliophysics Dataset and Benchmark for Agentic Scientific Reasoning},
author = {Kevin Lee and Russell Spiewak and James Walsh},
journal= {arXiv preprint arXiv:2511.20694},
year = {2026}
}
备注
Accepted at NeurIPS 2025 Machine Learning and the Physical Sciences (ML4PS) Workshop. Dataset: https://huggingface.co/datasets/SpaceML/ReasoningWithAStar