对称感知器:教师-学生场景
无序系统与神经网络
2026-03-27 v1 统计力学
机器学习
摘要
我们引入并求解了对称二元感知器的教师-学生表述,将一个传统的以存储为导向的模型转化为一个种植推断问题,在任意样本密度下都有保证的解。我们通过同时在两个区域中包含标签来适应传统上考虑U形势或矩形势的对称感知器表述。利用这一表述,我们分析了无噪声样本下的贝叶斯最优区域以及两种不同势/分类规则下的热噪声效应。在高维极限下利用退火和淬火自由熵计算,我们在三个控制参数——样本密度 、原点与其中一个对称超平面之间的距离 以及温度 ——下绘制了相图,并识别出一个鲁棒的场景,其中学习由一个二阶不稳定性组织,该不稳定性产生与教师相关的亚最优态,随后经历一个一阶转变达到完全对齐。我们展示了这一结构如何依赖于势的选择、亚最优解亚稳态与其向种植构型熔化的相互关系,这与基于蒙特卡洛的优化算法相关。
引用
@article{arxiv.2603.25440,
title = {The Symmetric Perceptron: a Teacher-Student Scenario},
author = {Giovanni Catania and Aurélien Decelle and Suhanee Korpe},
journal= {arXiv preprint arXiv:2603.25440},
year = {2026}
}
备注
19 pages, 6 figures