中文

SCP-116K:面向高等教育科学领域的高质量问题-解答数据集与通用提取管道

计算与语言 2025-08-26 v2 人工智能 信息检索

摘要

大型语言模型(LLM)的最新突破,如o1模型在数学与科学推理方面的惊人能力,凸显了高质量训练数据在推动LLM在STEM学科性能方面的关键作用。尽管数学领域已受益于日益增长的精选数据集,但科学领域在高等教育层面长期缺乏类似资源。为填补这一差距,我们提出了SCP-116K,这是一个由116,756对高质量问题-解答对组成的大型数据集,通过简洁且高度通用的管道从异构来源自动提取。我们的做法通过严格筛选确保提取材料的科学严谨性和教育水平,同时保持适用于未来扩展或领域迁移的灵活性。通过公开发布数据集和提取管道,我们旨在促进科学推理研究, enable 对新型LLM进行全面评估,并降低复制o1等先进模型成功案例的门槛。我们相信SCP-116K将成为高级科学推理任务的关键资源,催化在LLM开发中取得进展。数据集和代码已公开于https://github.com/AQA6666/SCP-116K-open。

关键词

引用

@article{arxiv.2501.15587,
  title  = {SCP-116K: A High-Quality Problem-Solution Dataset and a Generalized Pipeline for Automated Extraction in the Higher Education Science Domain},
  author = {Dakuan Lu and Xiaoyu Tan and Rui Xu and Tianchu Yao and Chao Qu and Wei Chu and Yinghui Xu and Yuan Qi},
  journal= {arXiv preprint arXiv:2501.15587},
  year   = {2025}
}

备注

9 pages, 1 figures