如何逃离对称二元感知器中的非典型区域:一段穿越连通解态的旅程
无序系统与神经网络
2025-04-02 v3 统计力学
数学物理
math.MP
摘要
我们研究了二元对称感知器模型,特别是其非典型解。尽管该问题的解空间由孤立构型主导,但在特定的约束密度α和阈值κ范围内,它也是可解的。本文提供了一种统计测度,用于探测解序列,其中两个连续元素共享强重叠。经过简化后,我们通过将其与蒙特卡洛模拟进行比较来测试其预测。我们获得了良好的一致性,并表明具有马尔可夫相关分布的连通态仅在κ > κ_{无记忆态}(对于α=0.5和问题维度N,κ_{无记忆态} ~ √(0.91 log(N)))时才能与其初始化完全去相关。对于κ < κ_{无记忆态},我们证明去相关序列仍然存在,但具有非平凡的相关分布。为了研究这一区域,我们引入了一种相关性的Ansatz,我们将其标记为嵌套马尔可夫链。
引用
@article{arxiv.2408.04479,
title = {How to escape atypical regions in the symmetric binary perceptron: a journey through connected-solutions states},
author = {Damien Barbier},
journal= {arXiv preprint arXiv:2408.04479},
year = {2025}
}