PGKET:一种光子高斯核增强型Transformer
量子物理
2025-07-28 v1 计算机视觉与模式识别
摘要
自注意力机制(SAM)通过提取关键信息来提升模型性能,但在处理长序列时效率低下。为此,本文提出了一种基于光子高斯核自注意力机制(PGKSAM)的光子高斯核增强型Transformer(PGKET)。PGKSAM利用光子干涉和叠加原理计算光子高斯核自注意力分数(PGKSAS),以并行处理多个输入。实验结果表明,PGKET在MedMNIST v2和CIFAR-10上的多分类任务中优于一些最先进的Transformer,并有望提升复杂任务的性能,加速光子计算(PC)与机器学习的融合。
引用
@article{arxiv.2507.19041,
title = {PGKET: A Photonic Gaussian Kernel Enhanced Transformer},
author = {Ren-Xin Zhao},
journal= {arXiv preprint arXiv:2507.19041},
year = {2025}
}