中文

量子惰性训练

量子物理 2023-05-03 v7 机器学习

摘要

在通过梯度下降训练过参数化模型函数时,有时参数不会发生显著变化并保持在初始值附近。这一现象被称为惰性训练(lazy training),并促使人们考虑模型函数在初始参数附近的线性近似。在惰性 regime 中,该线性近似模仿参数化函数的行为,其关联核称为切向核(tangent kernel),决定了模型的训练性能。已知惰性训练出现在大宽度(经典)神经网络的情形中。在本文中,我们证明几何局域参数化量子线路的训练在 qubit 数目很大时进入惰性 regime。更确切地说,我们证明了此类几何局域参数化量子线路在训练过程中参数变化速率的界,以及关联量子模型函数线性近似精度的界;这两个界都随着 qubit 数目的增长趋于零。我们以数值模拟支持我们的解析结果。

关键词

引用

@article{arxiv.2202.08232,
  title  = {Quantum Lazy Training},
  author = {Erfan Abedi and Salman Beigi and Leila Taghavi},
  journal= {arXiv preprint arXiv:2202.08232},
  year   = {2023}
}

备注

19 pages, 7 figures + 5 page appendix (V2: Added a couple of remarks; V3: Fixed typo, updated figure and added URL of GitHub repository; V4: Applied changes after getting reviewed; V5: Fixed typo, V6: Changed format to Quantum template, V7: Change license)