中文

如何逃离对称二元感知器中的非典型区域:一段穿越连通解态的旅程

无序系统与神经网络 2025-04-02 v3 统计力学 数学物理 math.MP

摘要

我们研究了二元对称感知器模型,特别是其非典型解。尽管该问题的解空间由孤立构型主导,但在特定的约束密度α和阈值κ范围内,它也是可解的。本文提供了一种统计测度,用于探测解序列,其中两个连续元素共享强重叠。经过简化后,我们通过将其与蒙特卡洛模拟进行比较来测试其预测。我们获得了良好的一致性,并表明具有马尔可夫相关分布的连通态仅在κ > κ_{无记忆态}(对于α=0.5和问题维度N,κ_{无记忆态} ~ √(0.91 log(N)))时才能与其初始化完全去相关。对于κ < κ_{无记忆态},我们证明去相关序列仍然存在,但具有非平凡的相关分布。为了研究这一区域,我们引入了一种相关性的Ansatz,我们将其标记为嵌套马尔可夫链。

关键词

引用

@article{arxiv.2408.04479,
  title  = {How to escape atypical regions in the symmetric binary perceptron: a journey through connected-solutions states},
  author = {Damien Barbier},
  journal= {arXiv preprint arXiv:2408.04479},
  year   = {2025}
}