中文

与Oompa Loompas对话:一种评估LLM智能体语言习得能力的新框架

计算与语言 2025-09-10 v1 人工智能 人机交互 机器学习

摘要

现有关于大型语言模型(LLM智能体)语言能力的评估研究主要集中在词汇学习、形态规则归纳、句法泛化、语用推理和跨语言迁移上。然而,没有一项研究评估LLM智能体是否能够通过模式识别和交互式反馈来习得一门语言,而这正是人类语言习得的一个核心特征。我们提出了一个新颖的实验框架,在该框架中,评估一个LLM智能体在与一个只理解Tinkatongue的机器人对话时,习得并使用一门新构建语言(Tinkatongue)的能力。我们的发现表明,LLM智能体未能在100次响应内建立对话,但它们采用了与人类语言学习方法相呼应的独特策略。这些结果为评估基准指明了新方向,并为能够更有效地从交互式反馈中学习的模型设计开辟了途径。

关键词

引用

@article{arxiv.2509.07389,
  title  = {Talking with Oompa Loompas: A novel framework for evaluating linguistic acquisition of LLM agents},
  author = {Sankalp Tattwadarshi Swain and Anshika Krishnatray and Dhruv Kumar and Jagat Sesh Challa},
  journal= {arXiv preprint arXiv:2509.07389},
  year   = {2025}
}

备注

Under review