卷心菜比蛋糕更甜？分析大语言模型学习概念空间之潜力
计算与语言
2023-10-10 v1 人工智能
摘要
概念空间理论是一种具有影响力的认知-语言学框架，用于表示概念的意义。概念空间由一组质量维度构建，这些维度本质上对应于原初感知特征（例如色调或大小）。这些质量维度通常从人类判断中学习，这意味着概念空间的应用往往局限于狭窄领域（例如建模颜色或味觉）。受近期关于大语言模型（LLMs）学习感知接地表征能力发现的鼓舞，我们探索此类模型用于学习概念空间的潜力。我们的实验表明，LLMs确实可在一定程度上用于学习有意义的表征。然而，我们也发现，尽管BERT系列微调模型比最大的GPT-3模型小2到3个数量级，却能够与之匹敌甚至超越后者。
引用
@article{arxiv.2310.05481,
title = {Cabbage Sweeter than Cake? Analysing the Potential of Large Language Models for Learning Conceptual Spaces},
author = {Usashi Chatterjee and Amit Gajbhiye and Steven Schockaert},
journal= {arXiv preprint arXiv:2310.05481},
year = {2023}
}
备注
Accepted for EMNLP 2023