NepaliGPT：面向尼泊尔语的生成式语言模型
计算与语言
2025-06-23 v1 人工智能
摘要
ChatGPT 发布后，大语言模型（LLM）在近日获得了巨大流行，数千种 LLM 变体陆续发布。然而，尼泊尔语尚无生成式语言模型，导致其他下游任务，包括微调，尚未得到探索。为填补尼泊尔语 NLP 领域的这一研究空白，本研究提出了针对尼泊尔语专门设计的生成式大语言模型——NepaliGPT。该研究引入了来自多个来源的尼泊尔语高级语料库，称为 Devanagari 语料库。同时，本研究首次推出 NepaliGPT 基准数据集，包含 4,296 对尼泊尔语问答对。所提的 LLM NepaliGPT 在文本生成方面实现以下指标：困惑度为 26.32245，ROUGE-1 分数为 0.2604，因果连贯性为 81.25%，因果一致性为 85.41%。
关键词
引用
@article{arxiv.2506.16399,
title = {NepaliGPT: A Generative Language Model for the Nepali Language},
author = {Shushanta Pudasaini and Aman Shakya and Siddhartha Shrestha and Sahil Bhatta and Sunil Thapa and Sushmita Palikhe},
journal= {arXiv preprint arXiv:2506.16399},
year = {2025}
}
备注
11 pages, 9 figures