类人少样本学习的理论
机器学习
2023-01-04 v1
摘要
我们旨在弥合常识性少样本人类学习与大数据机器学习之间的差距。我们从冯·诺依曼-兰道尔原理推导出一种类人少样本学习理论。由于每个人的学习方式不同,对人类学习建模十分困难。在普遍接受的定义下,我们证明所有人类或动物的少样本学习,以及对此类学习建模的主要模型(包括自由能原理和贝叶斯程序学习)在丘奇-图灵论题下均近似于我们的理论。我们发现,变分自编码器(VAE)等深度生成模型可用于近似我们的理论,并在图像识别、低资源语言处理和字符识别上显著优于包括深度神经网络在内的基线模型。
引用
@article{arxiv.2301.01047,
title = {A Theory of Human-Like Few-Shot Learning},
author = {Zhiying Jiang and Rui Wang and Dongbo Bu and Ming Li},
journal= {arXiv preprint arXiv:2301.01047},
year = {2023}
}