中文

物理神经网络中分类准确率的幂律缩放

新兴技术 2026-06-30 v1
作者: Andrei V. Ermolaev , Mathilde Hary , Anas Skalli , Goëry Genty , Marcin Gebski , Tomasz Czyszanowski , Stephan Reitzenstein , James A. Lott , John M. Dudley , Daniel Brunner
在 arXiv 上查看 ↗ PDF ↗

摘要

物理神经网络 (PNN) 利用物理系统的内在复杂性来执行神经计算,有望达到传统数字硬件无法企及的速度和能效。然而,一个用于量化和预测其在 diverse 基底上计算准确性的原则性框架仍然难以实现。在此,我们引入 Hotelling 迹准则 (HTC),一种无需训练即可评估的、任务条件化的 PNN 状态可分性度量。我们证明,在高度非线性的光纤、垂直腔面发射激光器以及耦合非线性振荡器网络中,对于不同难度的基准任务,它能高保真地预测 PNN 的分类性能。分类损失与 HTC 呈幂律关系,对于 MNIST,Pearson 相关系数超过 0.99,对于 Fashion-MNIST 约为 0.97;值得注意的是,来自物理上截然不同系统的实验和模拟数据坍缩到由任务而非基底决定的单一缩放曲线上。在训练期间逐层应用 HTC 进一步表明,基于梯度的优化在 PNN 各层间不均匀地分配表示容量,提供了一种标准损失监控无法察觉的、关于训练和架构效率的定量诊断。关键在于,一旦从少量训练好的校准系统中确立了缩放指数,所有后续的性能预测均无需训练,因为性能可以从高效得多的 HTC 测量中推导得出。这些结果确立了 HTC 作为比较和缩放 PNN 的基底无关品质因数,推动该领域进一步迈向通过普适缩放定律将基本硬件参数与任务性能联系起来的完整理论。

关键词

物理神经网络 分类准确率 幂律缩放 Hotelling 迹准则 任务条件化可分性

引用

@article{arxiv.2606.31588,
  title  = {Power law scaling for classification accuracy in physical neural networks},
  author = {Andrei V. Ermolaev and Mathilde Hary and Anas Skalli and Goëry Genty and Marcin Gebski and Tomasz Czyszanowski and Stephan Reitzenstein and James A. Lott and John M. Dudley and Daniel Brunner},
  journal= {arXiv preprint arXiv:2606.31588},
  year   = {2026}
}