HouYi：专为可再生能源与碳中和领域设计的开源大语言模型
计算与语言
2023-08-04 v1 人工智能
摘要
可再生能源对实现碳中和目标至关重要。随着 ChatGPT 等大语言模型（LLMs）在自动内容生成方面的巨大成功，LLM 正扮演越来越重要的角色。然而，目前尚无专为可再生能源设计的 LLM，同时也尚无用于训练 LLM 的可再生能源数据集。因此，本文发布了首个开源的可再生能源学术论文（REAP）数据集，用于可再生能源的非商业 LLM 研究。REAP 数据集通过检索 Web of Science 中 1,168,970 篇学术文献的标题与摘要收集得到。基于 REAP 数据集，通过微调通用 LLM 开发了首个面向可再生能源的 LLM——HouYi 模型。HouYi 展现了在可再生能源领域强大的学术论文段落生成能力。实验表明，其生成可再生能源学术论文的能力可与 ChatGPT 媲美，略优于 Claude、ERNIE Bot 和 SparkDesk，并显著优于开源的 LLaMA-13B 模型。
引用
@article{arxiv.2308.01414,
title = {HouYi: An open-source large language model specially designed for renewable energy and carbon neutrality field},
author = {Mingliang Bai and Zhihao Zhou and Ruidong Wang and Yusheng Yang and Zizhen Qin and Yunxiao Chen and Chunjin Mu and Jinfu Liu and Daren Yu},
journal= {arXiv preprint arXiv:2308.01414},
year = {2023}
}