利用知识驱动的大型语言模型提高科学假设生成能力
计算与语言
2024-11-05 v1 人工智能
摘要
大型语言模型(LLM)在自然语言处理和复杂问题解决任务中展现出惊人的能力。其理解和生成类人文本的能力，为推进科学研究开辟了新的可能性，使其能够进行数据分析、文献综述，甚至实验设计。LLM在这一背景下的最具前景的应用之一是假设生成，通过分析现有知识来识别新的研究方向。然而，尽管LLM具有潜力，但它们容易生成“幻觉”输出——听起来合理但事实不正确的结果。这一问题在需要严格准确性和可验证性的科学领域提出了重大挑战，可能导致错误或误导的结论。为克服这些挑战，我们提出了KG-CoI(Knowledge Grounded Chain of Ideas)，一种新型系统，通过整合来自知识图谱(KGs)的外部结构化知识来增强LLM的假设生成能力。KG-CoI引导LLM进行结构化推理，将其输出组织为一系列想法链(CoI)，并包括KG支持的幻觉检测模块。通过在我们新构建的假设生成数据集上进行实验，我们展示了KG-CoI不仅提高了LLM生成假设的准确性，还减少了其推理链中的幻觉现象，凸显了其在推动实际科学研究方面的有效性。
引用
@article{arxiv.2411.02382,
title = {Improving Scientific Hypothesis Generation with Knowledge Grounded Large Language Models},
author = {Guangzhi Xiong and Eric Xie and Amir Hassan Shariatmadari and Sikun Guo and Stefan Bekiranov and Aidong Zhang},
journal= {arXiv preprint arXiv:2411.02382},
year = {2024}
}