过拟合的大脑:梦进化以辅助泛化
神经元与认知
2020-09-25 v2
摘要
过去十年中,对睡眠的演化生物学功能的理解已取得显著进展。然而,对梦的等效理解尚未形成。当代神经科学理论普遍将梦视为副现象,而少数关于其生物学功能的假说又与梦自身的现象学相矛盾。如今,深度神经网络(DNNs)的近期出现终于提供了新颖的概念框架,用以理解梦的演化功能。值得注意的是,所有 DNN 在学习时都面临过拟合问题,即在一个数据集上性能提升但网络泛化能力失效(常由训练与测试数据集上性能的背离衡量)。DNN 中这一普遍问题常由建模者通过以噪声或 corrupted 输入形式进行“噪声注入”来解决。本文旨在论证大脑面临类似的过拟合挑战,并且夜间梦境演化出来以对抗大脑在日常学习中的过拟合。亦即,梦是一种通过由神经结构层级中随机活动生成 corrupted 感官输入来提升泛化性的生物机制。睡眠丧失,尤其是梦的丧失,导致过拟合的大脑——仍可支配记忆与学习,却无法恰当泛化。本文明确发展了这一“过拟合大脑假说”,并与现有当代神经科学梦理论进行比较和对照。我们考察了神经科学与深度学习中支持该假说的现有证据,并提出一组可在体内与硅上开展的可检验预测。
引用
@article{arxiv.2007.09560,
title = {The Overfitted Brain: Dreams evolved to assist generalization},
author = {Erik Hoel},
journal= {arXiv preprint arXiv:2007.09560},
year = {2020}
}
备注
18 pages, no figures