LAWS:用于量子神经网络的环视热启动自然梯度下降法
量子物理
2022-05-06 v1 机器学习
摘要
变分量子算法(VQAs)近年来因其在含噪中等规模量子计算机(NISQ)上很有前景的性能而受到研究界的显著关注。然而,运行在具有随机初始化参数的参数化量子电路(PQC)上的 VQAs 具有贫瘠高原(BP)的特征,其中梯度随量子比特数呈指数消失。在本文中,我们首先从经典一阶优化的角度回顾量子自然梯度(QNG),它是最流行的 VQA 算法之一。然后,我们提出了一种环视热启动 QNG(LAWS)算法来缓解广泛存在的 BP 问题。LAWS 是一种组合优化策略,利用了模型参数初始化和 QNG 的快速收敛。LAWS 为下一次迭代参数更新重复重新初始化参数搜索空间。重新初始化的参数搜索空间通过采样当前最优附近的梯度仔细选择。此外,我们提出了一个统一框架(WS-SGD)用于将参数初始化技术集成到优化器中。我们基于 Polyak-Lojasiewicz(PL)条件给出了所提框架在凸和非凸目标函数上的收敛性证明。我们的实验结果表明,所提算法能够缓解 BP,并在量子分类问题中具有更好的泛化能力。
引用
@article{arxiv.2205.02666,
title = {LAWS: Look Around and Warm-Start Natural Gradient Descent for Quantum Neural Networks},
author = {Zeyi Tao and Jindi Wu and Qi Xia and Qun Li},
journal= {arXiv preprint arXiv:2205.02666},
year = {2022}
}