中文

语言模型能否学习类比推理?探究训练目标并与人类表现比较

计算与语言 2024-05-06 v4

摘要

尽管类比常用于评估 NLP 中的词嵌入,但研究类比推理本身是否是一项可被学习的任务也颇具意义。在本文中,我们测试了几种学习基本类比推理的方法,特别关注那些比常用 NLP 基准中更典型地用于评估人类类比推理的类比。我们的实验发现,即使数据量很少,模型也能够学习类比推理。我们进一步将我们的模型与一个带有人类基线的数据集进行比较,发现训练后模型接近人类表现。

关键词

引用

@article{arxiv.2310.05597,
  title  = {Can language models learn analogical reasoning? Investigating training objectives and comparisons to human performance},
  author = {Molly R. Petersen and Lonneke van der Plas},
  journal= {arXiv preprint arXiv:2310.05597},
  year   = {2024}
}