韩语句子理解:通过 KoSEnd 数据集对 LLM 进行全面评估
计算与语言
2025-07-08 v1
摘要
尽管 LLM 在 various languages 中取得了显着进展,但仍担忧其在低资源屈折语言(如英语)方面的效果。本研究聚焦于韩语,这是一种因其复杂句子 endings 而著名的语言,并对 LLM 在这一具有挑战性方面进行评估。我们引入韩语句子 endings (KoSEnd) 数据集,其中包含 3000 句句子,每句都标注了 15 种句子 endings 的自然度。这些句子收集自多样来源,以覆盖各种语境。我们评估了 11 个 LLM,以评估其对韩语句子 endings 的理解程度,基于参数数量和预测一致性进行分析。值得注意的是,告诉模型句子 endings 可能缺失可提升性能,凸显了显式考虑某些语言特征的影响。
关键词
引用
@article{arxiv.2507.03378,
title = {Making Sense of Korean Sentences: A Comprehensive Evaluation of LLMs through KoSEnd Dataset},
author = {Seunguk Yu and Kyeonghyun Kim and Jungmin Yun and Youngbin Kim},
journal= {arXiv preprint arXiv:2507.03378},
year = {2025}
}
备注
ACL 2025 student research workshop