教导与评估大语言模型以解决聚合物设计相关任务
计算与语言
2026-05-28 v3 人工智能
摘要
AI4Science 研究在众多科学应用中展现出广阔前景,包括聚合物设计。然而,当前的大语言模型在此问题领域表现不佳,原因在于:(i)大多数模型缺乏聚合物专门知识,(ii)现有的对齐模型在覆盖聚合物设计相关知识与能力方面有限。为此,我们引入了 PolyBench,这是一个规模庞大的训练与测试基准数据集,包含超过 12.5 万个聚合物设计相关任务,依托一个由实验与合成数据来源获取的、拥有超过 1300 万数据点的数据知识库构建,确保对聚合物及其性质的广泛覆盖。为有效利用 PolyBench 进行对齐,我们提出了一种知识增强推理蒸馏方法,通过结构化思考链(CoT)扩展该数据集。此外,PolyBench 中的任务按从简单到复杂的分析推理问题进行组织,使其能够在问题空间中进行概括测试与诊断探针。实验表明,参数规模为 7B 至 32B 的小型至中型语言模型(SLMs),在 PolyBench 上训练后,对比同规模的模型,并在 PolyBench 测试数据集上保持与闭源前沿大语言模型的竞争力,同时在外部聚合物基准测试中展现出性能提升。数据集及相关代码已提供:https://github.com/StonyBrookNLP/PolyBench。
关键词
引用
@article{arxiv.2601.16312,
title = {Teaching and Evaluating LLMs to Reason About Polymer Design Related Tasks},
author = {Dikshya Mohanty and Mohammad Saqib Hasan and Syed Mostofa Monsur and Size Zheng and Benjamin Hsiao and Niranjan Balasubramanian},
journal= {arXiv preprint arXiv:2601.16312},
year = {2026}
}