稠密关联记忆中的热力学鲁棒性：LSE vs LSR 核

Tatiana Petrova

稠密关联记忆中的热力学鲁棒性：LSE vs LSR 核

机器学习 2026-03-17 v1 无序系统与神经网络神经与进化计算

作者: Tatiana Petrova

摘要

理解稠密关联记忆在热噪声下的检索能力是否存活，对于将零温度容量证明与实际推断及生物计算的有限温度条件相桥接至关重要。我们使用蒙特卡罗模拟绘制两种连续稠密关联记忆(DAM)的检索相位边界：一种是以指数数量存储模式 $M = e^{\alpha N}$ 的 log-sum-exp (LSE) 核，另一种是 log-sum-ReLU (LSR) 核。这两种核在零温度临界负载 $\alpha_c(0)=0.5$ 上相同，但其在有限温度下的行为截然不同。LSE 核在负载足够低时可在任意高温度维持检索，而 LSR 核则表现出有限支持阈值，低于该阈值时在任意温度下检索均完美；对于典型的锋利值，此阈值接近 $\alpha_c$ ，使检索在整个负载范围内几乎完美。我们还将测量的平衡对齐与检索 basin 中的 Boltzmann 预测进行比较。

关键词

关联记忆热力学鲁棒性 log-sum-exp log-sum-ReLU 蒙特卡罗模拟

引用

@article{arxiv.2603.13350,
  title  = {Thermal Robustness of Retrieval in Dense Associative Memories: LSE vs LSR Kernels},
  author = {Tatiana Petrova},
  journal= {arXiv preprint arXiv:2603.13350},
  year   = {2026}
}

稠密关联记忆中的热力学鲁棒性：LSE vs LSR 核

摘要

关键词

引用

相关论文