Geo-Expert:通过参数高效微调实现专业水平的地质推理
人工智能
2026-05-26 v1 计算与语言
摘要
虽然通用大型语言模型(LLM)用于地质学领域时常在推理地下结构和深时演化过程时出现幻觉,但当前的人工智能在地球科学中的应用主要聚焦于表层遥感和地理信息系统。为弥合这一差距,我们提出Geo-Expert,一套基于参数高效微调(LoRA)方法的地质专业语言模型家族。该系列模型在由我们自主构建的指令合成管道处理后的高质量指令数据集上进行微调。我们通过对Qwen3-8B、Qwen3-32B和Gemma-3-27B三个基础模型进行微调,探讨了模型规模和架构的影响。基于我们构建的全新领域特定基准Geo-Eval进行大规模评估表明,领域对齐的8B模型能够超越开源70B通用模型以及专有GPT-4o在专业地质推理任务上的表现,而32B变体接近前沿推理模型。经优化的8B模型在部署时还展现出具竞争力的性价比。本工作提供了可复现的通用化科学语言模型方案,为地质人工智能的发展奠定了基准。
关键词
引用
@article{arxiv.2605.24844,
title = {Geo-Expert: Towards Expert-Level Geological Reasoning via Parameter-Efficient Fine-Tuning},
author = {Chenyou Guo and Zongqi Liu and Yizhou Zhang and Zhaorui Jiang and Ze Liu},
journal= {arXiv preprint arXiv:2605.24844},
year = {2026}
}
备注
11 pages, 1 figure, 3 tables. Accepted at ICML 2026 AI for Science Workshop