纠缠诱导的贫瘠高原
量子物理
2021-03-11 v2 机器学习
摘要
我们认为，量子神经网络中可见单元与隐藏单元之间过量的纠缠会阻碍学习。具体而言，我们表明满足纠缠熵体积律的量子神经网络将以高概率产生不适合学习的模型。利用量子热力学的论证，我们进一步表明该体积律是典型现象，并且由于纠缠，优化 landscape 中存在贫瘠高原。更确切地说，我们表明对于可见层上的任意有界目标函数，该目标函数期望值的 Lipschitz 常数将以高概率随隐藏子系统维度的增加而逆缩放。我们展示了这会导致梯度下降和无梯度方法均告失败。我们注意到量子玻尔兹曼机也可能出现类似问题，尽管需要对隐藏/可见子空间之间的耦合施加更强假设。我们强调了对此类生成模型进行预训练如何为穿越这些贫瘠高原提供途径。
引用
@article{arxiv.2010.15968,
title = {Entanglement Induced Barren Plateaus},
author = {Carlos Ortiz Marrero and Mária Kieferová and Nathan Wiebe},
journal= {arXiv preprint arXiv:2010.15968},
year = {2021}
}