深度学习在存储物体细节上能否匹敌人类视觉长期记忆的效率？
机器学习
2022-05-25 v3 神经与进化计算
神经元与认知
摘要
即使在单次暴露后，人类在长期记忆中存储详细视觉信息的能力也大得惊人，正如心理学中的经典实验所证明的那样。例如，Standing (1973) 表明，人类能够高精度地识别出他们在识别测试前几天仅看过一次的数千张图片。在深度学习中，将新信息纳入模型的主要方式是通过模型参数空间中的梯度下降。本文在一个严格、直接、定量的比较中，询问通过梯度下降的深度学习能否匹敌人类视觉长期记忆纳入新信息的效率。我们对此给出了否定回答：即使在最好的情况下，通过梯度下降学习的模型也需要对相同视觉材料大约10次暴露才能达到人类仅单次暴露后即可实现的识别记忆表现。通过预训练诱导的先验知识和更大的模型规模提高了性能，但这些改进在单次暴露后并不十分明显（需要几次暴露才能使改进变得显著），这表明仅仅扩大预训练数据规模或模型规模可能不是达到人类级记忆效率的可行策略。
引用
@article{arxiv.2204.13061,
title = {Can deep learning match the efficiency of human visual long-term memory in storing object details?},
author = {A. Emin Orhan},
journal= {arXiv preprint arXiv:2204.13061},
year = {2022}
}
备注
v3: mostly stylistic changes, no changes in main content