中文

张量网络机器学习中的grokking现象:一种纠缠转变

量子物理 2025-03-14 v1

摘要

grokking是机器学习中一种引人注目的现象,即在 generalization 上几乎没有提高的情况下,神经网络经过大量训练迭代后突然实现高准确率。通过基于张量网络的量子灵感机器学习框架,我们在数值上证明了grokking现象可与底层量子多体系统中出现的纠缠动力学转变相关联,该系统由每个站点承载一个量子比特的一维晶格构成。两种数据集作为用例场景,分别为fashion MNIST和肝细胞癌基因表达社区。在两种情况下,我们训练矩阵产品态(MPS)执行二进制分类任务,并分析学习动力学。我们利用对量子比特磁化和关联函数的测量作为识别有意义和相关基因子社区的工具,并通过丰富程序进行验证。

关键词

引用

@article{arxiv.2503.10483,
  title  = {Grokking as an entanglement transition in tensor network machine learning},
  author = {Domenico Pomarico and Alfonso Monaco and Giuseppe Magnifico and Antonio Lacalamita and Ester Pantaleo and Loredana Bellantuono and Sabina Tangaro and Tommaso Maggipinto and Marianna La Rocca and Ernesto Picardi and Nicola Amoroso and Graziano Pesole and Sebastiano Stramaglia and Roberto Bellotti},
  journal= {arXiv preprint arXiv:2503.10483},
  year   = {2025}
}