通过提供激励与练习来克服人工神经网络的经典挑战
人工智能
2025-09-17 v4 机器学习
神经元与认知
摘要
自最初的人工神经网络（ANN）模型模拟心智与大脑的提案起，批评者便指出这些模型相较于人类认知能力存在若干关键弱点。本文综述了近期利用元学习克服若干经典挑战的最新工作，称其为“激励与练习问题”——即为机器提供提升特定技能的激励以及练习这些技能的机会。这种明确的优化目标与传统方法不同后者希望通过优化与所需行为相关但不同的目标来实现期望行为。我们综述了将这一原则应用于解决 ANN 经典挑战的应用，包括：系统性泛化、灾难性遗忘、零样本学习和多步推理。我们还讨论了大型语言模型如何整合这一元学习框架的关键方面（即基于多样化数据训练的序列预测带反馈），以解释其在这些经典挑战上的部分成功。最后，我们讨论了通过这一框架理解人类发展的前景，以及自然环境是否为学习如何进行具有挑战性的泛化提供合适的激励与练习。
引用
@article{arxiv.2410.10596,
title = {Overcoming classic challenges for artificial neural networks by providing incentives and practice},
author = {Kazuki Irie and Brenden M. Lake},
journal= {arXiv preprint arXiv:2410.10596},
year = {2025}
}
备注
In press at Nature Machine Intelligence