面向量子神经网络的数据蒸馏
机器学习
2025-03-26 v2 量子物理
摘要
在大量经典数据上训练量子神经网络(QNN)既耗时又昂贴。更大 amount of training data 需要更多的梯度下降步骤才能收敛,这反过来又意味着QNN需要更多的量子执行,从而增加其总体执行成本。本文提出了对QNN进行数据蒸馏的做法,我们使用一种新颖的量子LeNet变体,包含残差连接和可训练Hermitian本征算子于量子电路(PQC)中的QNN。这种方法在保持与原始数据相似性能的同时,能产生高度信息化但数量更少的训练数据。我们对MNIST和Cifar-10数据集进行蒸馏,并与经典模型进行比较,发现两个数据集在量子LeNet(91.9% MNIST, 50.3% Cifar-10)上的后推理准确率与经典LeNet(94% MNIST, 54% Cifar-10)相当。我们还引入一种非可训练Hermitian算子,以确保蒸馏过程的稳定性,并观察到MNIST(Cifar-10)数据集上实现了最高1.8%(1.3%)的边际准确率下降。
引用
@article{arxiv.2503.17935,
title = {Dataset Distillation for Quantum Neural Networks},
author = {Koustubh Phalak and Junde Li and Swaroop Ghosh},
journal= {arXiv preprint arXiv:2503.17935},
year = {2025}
}
备注
5 pages, 4 figures, 2 tables