自适应 Hopfield 网络:重新思考关联记忆中的相似性
机器学习
2025-11-26 v1
摘要
关联记忆模型是内容可寻址的记忆系统,构成生物智能的基本组成部分,因其高可解释性而备受推崇。然而,现有模型基于接近度评估检索质量,无法保证检索到的模式与查询之间的最强关联,因而无法保证正确性。我们通过提出查询是存储记忆模式的生成变体来重新框架此问题,并定义变体分布来建模这种细微的情境依赖的生成过程。因此,正确的检索应返回来源于查询的存储记忆模式的最大后验概率。从这个角度看,理想的相似性度量应近似每个存储模式生成查询的概率,这是根据变体分布而言,这是现有关联记忆使用的固定预定义相似性无法实现的。为此,我们开发了自适应相似性,这是一种新机制,从情境中抽取的样本中学习以逼近这一富有洞察力但未知的似然分布,以实现正确的检索。我们理论上证明,我们提出的自适应相似性在三种常见且广泛适用的变体类型下实现了最佳正确检索:噪声、遮盖和偏置。我们将这一机制集成到一种新型的自适应 Hopfield 网络 (A-Hop) 中,经验结果表明它在包括记忆检索、表格分类、图像分类和多实例学习等多样任务上实现了最先进的性能。
关键词
引用
@article{arxiv.2511.20609,
title = {Adaptive Hopfield Network: Rethinking Similarities in Associative Memory},
author = {Shurong Wang and Yuqi Pan and Zhuoyang Shen and Meng Zhang and Hongwei Wang and Guoqi Li},
journal= {arXiv preprint arXiv:2511.20609},
year = {2025}
}