大语言模型用于专利概念生成
计算与语言
2025-04-09 v3 人工智能
摘要
在传统创新实践中，概念与知识产权生成往往迭代集成。两者都需要对先进技术领域知识的精细理解。现有的大语言模型（LLM）虽拥有海量预训练知识，却在缺乏生成所需专业知识的情况下，往往难以实现创新性概念生成。为弥合这一关键差距，我们提出了一种新颖的知识微调（Knowledge Finetuning, KFT）框架，赋予基于LLM的AI系统自主挖掘、理解和应用领域特定知识与概念以实现发明生成的能力，即概念与专利生成一体化。我们的专利专家系统（PatentGPT）集成了知识注入预训练（Knowledge Pre-training, KPT）、领域特定监督微调（Supervised Fine-tuning, SFT）以及来自人类反馈的强化学习（Reinforcement Learning from Human Feedback, RLHF）。广泛的评估表明，PatentGPT在专利相关基准测试中显著优于当前最先进的模型。该方法不仅为数据驱动的创新提供新视角，也为在技术语境下微调LLM的应用开辟了新路径。我们还讨论了AI生成发明的未来管理与政策含义。
引用
@article{arxiv.2409.00092,
title = {Large Language Model for Patent Concept Generation},
author = {Runtao Ren and Jian Ma and Jianxi Luo},
journal= {arXiv preprint arXiv:2409.00092},
year = {2025}
}
备注
Accepted for publication in Advanced Engineering Informatics, Link: https://doi.org/10.1016/j.aei.2025.103301