面向神经语言模型的属性归纳框架

来自语言的经验能在多大程度上贡献于我们的概念知识？对这一问题的计算探索已阐明强大的神经语言模型（LMs）——仅通过文本输入获得信息——编码与引出概念和属性信息的能力。为延伸此研究方向，我们提出一个利用神经网络语言模型（LMs）执行属性归纳的框架——该任务中人类将新颖属性知识（具有籽骨）从一个或多个概念（知更鸟）泛化至其他概念（麻雀、金丝雀）。人类身上观察到的属性归纳模式已显著揭示人类概念知识的本质与组织。受此洞见启发，我们用该框架探究 LMs 的属性归纳，发现它们表现出基于类别归属泛化新颖属性的归纳偏好，暗示其表示中存在分类学偏置。