通过将大型语言模型的生态先验注入神经网络实现类人类别学习
机器学习
2024-05-29 v2 人工智能
摘要
生态理性是指人类作为理性主体适应其环境的概念。然而，由于两个原因，检验这一理论仍然具有挑战性：难以定义哪些任务是生态有效的，以及为这些任务构建理性模型。在这项工作中，我们证明大型语言模型可以生成认知任务，特别是类别学习任务，这些任务与现实世界任务的统计特征相匹配，从而解决了第一个挑战。我们通过使用元学习的框架推导出适应这些任务的理性主体来解决第二个挑战，从而得到一类称为生态理性元学习推理（ERMI）的模型。ERMI在两个不同的实验中比另外七个认知模型更好地定量解释了人类数据。此外，它在定性层面上与人类行为相匹配：（1）它发现人类觉得困难的任务同样困难；（2）随着学习，它更加依赖基于范例的策略来分配类别；（3）它以类似人类的方式泛化到未见过的刺激。此外，我们表明ERMI的生态有效先验使其在OpenML-CC18分类基准上达到了最先进的性能。
引用
@article{arxiv.2402.01821,
title = {Human-like Category Learning by Injecting Ecological Priors from Large Language Models into Neural Networks},
author = {Akshay K. Jagadish and Julian Coda-Forno and Mirko Thalmann and Eric Schulz and Marcel Binz},
journal= {arXiv preprint arXiv:2402.01821},
year = {2024}
}
备注
27 pages (9 pages of main text, 4 pages of references, and 14 pages of appendix), 13 figures, and 7 Tables