大语言模型对科学发现的影响:基于 GPT-4 的初步研究
计算与语言
2023-12-11 v2 人工智能
摘要
近年来,自然语言处理领域的突破性进展最终催生了强大的大语言模型(LLMs),其在包括自然语言理解、生成与翻译乃至超越语言处理的任务等广泛领域中展现出卓越能力。在本报告中,我们深入探究 LLMs 在科学发现背景下的表现,重点关注当前最先进的语言模型 GPT-4。我们的研究跨越药物发现、生物学、计算化学(密度泛函理论(DFT)与分子动力学(MD))、材料设计以及偏微分方程(PDE)等多样化科学领域。在科学任务上评估 GPT-4,对于揭示其在各研究领域的潜力、验证其领域专业知识、加速科学进展、优化资源分配、指导未来模型开发以及促进跨学科研究至关重要。我们的探索方法主要包括专家驱动的案例评估(定性洞察模型对复杂科学概念与关系的理解)以及偶尔的基准测试(定量评估模型解决明确定义的领域特定问题的能力)。我们的初步探索表明,GPT-4 在多种科学应用中展现出可观潜力,表现出处理复杂问题解决与知识整合任务的能力。宽泛而言,我们评估了 GPT-4 的知识库、科学理解、科学数值计算能力以及多种科学预测能力。
引用
@article{arxiv.2311.07361,
title = {The Impact of Large Language Models on Scientific Discovery: a Preliminary Study using GPT-4},
author = {Microsoft Research AI4Science and Microsoft Azure Quantum},
journal= {arXiv preprint arXiv:2311.07361},
year = {2023}
}
备注
230 pages report; 181 pages for main contents