一种自然的NISQ量子自注意力机制模型
量子物理
2023-05-26 v1
摘要
自注意力机制(SAM)在各种应用中取得了显著成功。然而，随着可训练参数数量的增长，在经典计算机上训练SAM变得计算困难。量子神经网络(QNNs)已被发展为一种新颖的学习模型，有望利用近期含噪中等规模量子(NISQ)计算机为模式识别提供加速。本工作中，我们提出一种在QNNs中实现SAM的完全自然方式，从而得到量子自注意力机制(QSAM)。SAM的基本操作，如计算注意力分数和生成注意力特征，仅通过适当设计数据编码和ansatz架构即可实现。由于这些是QNNs的基本组件，我们的QSAM可在近期NISQ设备上高效执行。我们的QSAM模型在文本分类任务上于准确率和电路复杂度两方面均取得更优性能。此外，展示了QSAM针对多种典型量子噪声的鲁棒性，表明该模型适用于NISQ设备。本QSAM将作为开发量子注意力神经网络大模型以实现量子优势应用的基础构建模块。
引用
@article{arxiv.2305.15680,
title = {A natural NISQ model of quantum self-attention mechanism},
author = {Shangshang Shi and Zhimin Wang and Jiaxin Li and Yanan Li and Ruimin Shang and Haiyong Zheng and Guoqiang Zhong and Yongjian Gu},
journal= {arXiv preprint arXiv:2305.15680},
year = {2023}
}
备注
13 pages, 6 figures