带注意力机制的序列到序列模型在人类记忆搜索中产生机械对应关系
神经元与认知
2025-06-24 v1 机器学习
摘要
过去的研究长期认识到情境在引导人类记忆搜索中的重要作用。尽管情境基记忆模型可以解释许多记忆现象，但仍然不清楚的是，人类为何会发展出这种架构，而非其他可能的备选方案。在本工作中，我们展示了神经机器翻译中的基础架构——具体而言是基于循环神经网络 (RNN) 的序列到序列模型带注意力机制—— exhibit mechanisms that directly correspond to those specified in the Context Maintenance and Retrieval (CMR) model of human memory. 由于神经机器翻译模型演化至优化任务性能，它们与人类记忆模型的收敛提供了对情境在人类记忆中功能作用的更深入理解，并为建模人类记忆提供了新方法。借助这种收敛，我们将神经机器翻译模型实现为人类记忆搜索的认知模型，该模型既可解释又能捕捉学习的复杂动力学。我们展示了该模型能够有效解释人类行为模式的平均情况和最优情况，与情境基记忆模型相当。进一步，我们通过评估不同模型组件如何影响记忆搜索绩效来展示所提出模型的额外优势。
引用
@article{arxiv.2506.17424,
title = {Sequence-to-Sequence Models with Attention Mechanistically Map to the Architecture of Human Memory Search},
author = {Nikolaus Salvatore and Qiong Zhang},
journal= {arXiv preprint arXiv:2506.17424},
year = {2025}
}