审视用户友好且开源的大型 GPT 模型：关于语言、多模态与科学 GPT 模型的综述
计算与语言
2023-08-29 v1 人工智能
摘要
生成式预训练变换器（GPT）模型以在各类任务中的卓越表现革新了自然语言处理（NLP）领域，并将其能力扩展至多模态领域。尽管取得成功，像 GPT-4 这样的大型 GPT 模型面临固有局限，如体积庞大、计算需求高、部署流程复杂以及开发闭环不开放。这些约束限制了其广泛采用，并引发关于其负责任开发与使用的担忧。对用户友好、相对较小且开源的替代 GPT 模型的需求，源于在保持高性能的同时克服这些局限的愿望。在本综述中，我们考察大型 GPT 的开源替代模型，聚焦于便于部署与获取的用户友好且相对较小的模型。通过这一广泛综述，我们旨在使研究人员、从业者和爱好者透彻理解用户友好且相对较小的开源大型 GPT 替代模型、其现状、挑战与未来研究方向，启发开发更高效、可获取且通用的 GPT 模型，以服务更广泛的科学界并推进通用人工智能领域。源内容在 https://github.com/GPT-Alternatives/gpt_alternatives 持续更新。
引用
@article{arxiv.2308.14149,
title = {Examining User-Friendly and Open-Sourced Large GPT Models: A Survey on Language, Multimodal, and Scientific GPT Models},
author = {Kaiyuan Gao and Sunan He and Zhenyu He and Jiacheng Lin and QiZhi Pei and Jie Shao and Wei Zhang},
journal= {arXiv preprint arXiv:2308.14149},
year = {2023}
}