使用工程设计知识的检索增强生成
计算与语言
2024-08-27 v9 数据库
信息检索
摘要
为了在设计过程中支持检索增强生成（RAG），我们提出了一种从专利人工物描述中识别显式工程设计事实——{头实体 :: 关系 :: 尾实体}——的方法。给定一个以独特方式标记了一对实体（基于名词短语）的句子，我们的方法提取了句子中显式传达的关系。针对此任务，我们创建了一个包含 375,084 个示例的数据集，并针对关系识别（token classification）和关系引出（sequence-to-sequence）对语言模型进行了微调。token classification 方法实现了高达 99.7% 的准确率。将该方法应用于包含 4,870 项风扇系统专利的领域后，我们构建了一个包含超过 293 万条事实的知识库。利用该知识库，我们展示了在设计过程中的知识检索任务中，Large Language Models（LLMs）如何由显式事实引导以综合知识并生成具有技术性和连贯性的回复。
引用
@article{arxiv.2307.06985,
title = {Retrieval Augmented Generation using Engineering Design Knowledge},
author = {L. Siddharth and Jianxi Luo},
journal= {arXiv preprint arXiv:2307.06985},
year = {2024}
}
备注
Resources: Dataset - https://huggingface.co/datasets/siddharthl1293/engineering_design_facts Training Infrastructure - https://zenodo.org/records/12012131 Trained model - https://huggingface.co/siddharthl1293/albert-albert-large-v2 Application - https://github.com/siddharthl93/engineering-design-knowledge