中文

对称感知器:教师-学生场景

无序系统与神经网络 2026-03-27 v1 统计力学 机器学习

摘要

我们引入并求解了对称二元感知器的教师-学生表述,将一个传统的以存储为导向的模型转化为一个种植推断问题,在任意样本密度下都有保证的解。我们通过同时在两个区域中包含标签来适应传统上考虑U形势或矩形势的对称感知器表述。利用这一表述,我们分析了无噪声样本下的贝叶斯最优区域以及两种不同势/分类规则下的热噪声效应。在高维极限下利用退火和淬火自由熵计算,我们在三个控制参数——样本密度 α\alpha、原点与其中一个对称超平面之间的距离 κ\kappa 以及温度 TT——下绘制了相图,并识别出一个鲁棒的场景,其中学习由一个二阶不稳定性组织,该不稳定性产生与教师相关的亚最优态,随后经历一个一阶转变达到完全对齐。我们展示了这一结构如何依赖于势的选择、亚最优解亚稳态与其向种植构型熔化的相互关系,这与基于蒙特卡洛的优化算法相关。

关键词

引用

@article{arxiv.2603.25440,
  title  = {The Symmetric Perceptron: a Teacher-Student Scenario},
  author = {Giovanni Catania and Aurélien Decelle and Suhanee Korpe},
  journal= {arXiv preprint arXiv:2603.25440},
  year   = {2026}
}

备注

19 pages, 6 figures