中文

基于准循环图谱ensemble和随机键伊辛模型的自然图像分类——于Nishimori温度

机器学习 2026-04-29 v3 计算机视觉与模式识别 信息论 代数拓扑 math.IT

摘要

现代多类图像分类使用高维CNN特征,导致大量内存和计算成本,并掩盖了数据流形的几何结构。现有的基于图的谱分类器在合成或二元任务上工作,但在大量自然图像上会因特征流形具有非平凡拓扑结构而性能下降。我们引入一种受物理启发的管线,其中冻结的MobileNetV2特征被解释为准循环稀疏多类型LDPC图上的伊辛自旋,从而定义随机键伊辛模型(RBIM)。该模型在其Nishimori温度下运行——即贝特 Hessian 矩阵最小特征值为零时。谱拓扑对应关系将 Tanner 图中的捕获集与通过 Ihara-Bass zeta 函数极点对应的拓扑不变量相联系,使我们能够系统性地抑制那些 otherwise 会使 Top-1 准确率下降超过四倍的有害子结构。一个快速的二次牛顿估计器在约9次 Arnoldi 迭代中找到 Nishimori 温度,相较于二分法实现了六倍加速。最终得到的 ensemble 将原始 1280 维的 MobileNetV2 表示压缩到 32 维( ImageNet-10)或 64 维( ImageNet-100)。我们使用三图 soft ensemble 在 ImageNet-10 上实现 98.7% 的 Top-1 准确率,在 ImageNet-100 上实现 84.92% 的准确率。相对于 MobileNetV2,hard ensemble 在提高 0.10% 准确率的同时,将 FLOPs 降低 2.67 倍。相对于 ResNet-50,soft ensemble 仅下降 1.09% 的准确率,却将 FLOPs 降低 29 倍。新颖之处在于:(a) 在图捕获集和代数拓扑缺陷之间建立严格的联系,(b) 一种高效的 Nishimori 温度估计器,以及 (c) 证明拓扑引导的 LDPC 图嵌入可用于高度压缩的分类器。

关键词

引用

@article{arxiv.2508.18717,
  title  = {Natural Image Classification via Quasi-Cyclic Graph Ensembles and Random-Bond Ising Models at the Nishimori Temperature},
  author = {V. S. Usatyuk and D. A. Sapozhnikov and S. I. Egorov},
  journal= {arXiv preprint arXiv:2508.18717},
  year   = {2026}
}

备注

38 pages, 8 figures, 4 tables, was presented at the 9th International Conference 'Deep Learning on Computational Physics (DLCP2025)', and accepted for the Moscow University Physics Bulletin, Physics series