贫瘠高原充斥着陷阱
量子物理
2025-02-10 v1
摘要
阻碍变分量子算法和量子机器学习模型高效训练的两大主要挑战是局部极小值和贫瘠高原。通常,贫瘠高原与深线路相关,而已证明浅线路会受次优局部极小值的影响。我们指出了一种在贫瘠高原区域中专门产生指数级多的劣质局部极小值的简单机制。这些局部极小值是平凡解,仅优化损失函数中的少数项,将其余项留在其贫瘠高原上。更确切地说,我们证明了仅优化单一损失项的近似局部极小值的存在性,并猜想仅优化所有损失函数项中对数比例项的精确局部极小值的存在性。我们研究结果的一个推论是,仅产生大梯度不足以使一种初始化策略成为贫瘠高原问题的有效解决方案。
引用
@article{arxiv.2405.05332,
title = {Barren plateaus are swamped with traps},
author = {Nikita A. Nemkov and Evgeniy O. Kiktenko and Aleksey K. Fedorov},
journal= {arXiv preprint arXiv:2405.05332},
year = {2025}
}
备注
9+5 pages