MechGPT：一种基于语言的力学与材料建模策略，连通跨尺度、跨学科与跨模态的知识
计算与语言
2023-10-17 v1 材料科学
摘要
数个世纪以来，研究者一直在寻求连接不同知识领域的方法。尽管早期学者（如伽利略、达·芬奇等）是跨领域的专家，但后来专业化逐渐成为主流。随着人工智能的出现，我们现在可以探索不同领域（如力学-生物学）或异质域（如失效力学-艺术）之间的关系。为此，我们使用一个微调的大语言模型（LLM），此处针对多尺度材料失效知识的一个子集。该方法包括使用通用LLM从原始来源中提炼问答对，随后进行LLM微调。所得的MechGPT LLM基础模型被用于一系列计算实验，以探索其在知识检索、各类语言任务、假设生成以及连接异质领域知识方面的能力。尽管该模型具备一定的从训练中回忆知识的能力，我们发现LLM特别有助于通过本体知识图提取结构性洞见。这些可解释的图结构提供了说明性洞见、新研究问题的框架，以及知识的可视化表示，也可用于检索增强生成。文中讨论了三个版本的MechGPT，参数规模从130亿到700亿不等，上下文长度超过10000个token。这为复杂的检索增强策略，以及多个LLM协作和/或对抗性交互的基于智能体的建模、从文献或网络搜索中纳入新数据，以及多模态提供了充足容量。
引用
@article{arxiv.2310.10445,
title = {MechGPT, a language-based strategy for mechanics and materials modeling that connects knowledge across scales, disciplines and modalities},
author = {Markus J. Buehler},
journal= {arXiv preprint arXiv:2310.10445},
year = {2023}
}