GPT4All:一个开源压缩语言模型生态系统
计算与语言
2023-11-10 v1 人工智能
摘要
大型语言模型(LLMs)近期在一系列专业与学术基准上取得了人类水平的性能。这些模型的可及性却滞后于其表现。最先进的 LLMs 需要昂贵的基础设施;仅能通过限速、地域限制且经过审查的网页界面访问;并缺乏公开可用的代码与技术报告。在本文中,我们讲述了 GPT4All 这一旨在使 LLMs 获取民主化的流行开源仓库的故事。我们概述了原始 GPT4All 模型家族的技术细节,以及 GPT4All 项目从单一模型演变为成熟开源生态系统的历程。我们希望本文既可作为原始 GPT4All 模型的技术概览,也可作为 GPT4All 开源生态系统后续发展的案例研究。
引用
@article{arxiv.2311.04931,
title = {GPT4All: An Ecosystem of Open Source Compressed Language Models},
author = {Yuvanesh Anand and Zach Nussbaum and Adam Treat and Aaron Miller and Richard Guo and Ben Schmidt and GPT4All Community and Brandon Duderstadt and Andriy Mulyar},
journal= {arXiv preprint arXiv:2311.04931},
year = {2023}
}
备注
Accepted at NLP-OSS at EMNLP 2023