LAPLEX:可学习拉普拉斯核的 FFT
机器学习
2026-05-26 v1 人工智能
摘要
深度学习中的快速线性代数通常面临一种选择:固定几何和精确计算,如傅里叶变换;或通过稠密参数、随机特征或低秩近似实现可适应几何,代价为计算复杂度。为超越这一权衡,我们引入 LAPLEX,即一类精确、可训练(相位)拉普拉斯核算子。LAPLEX 层是一个通常满秩稠密矩阵,隐式定义于可学习坐标锚点之间,具有类 FFT 规模。因此,它支持在现代 GPU 上达到 向量维度的可训练矩阵-向量运算。作为神经层,它产生紧凑的投影和分类头,可解释为软、可学习的路由模型。相同原语也作为高效 Gram 算子,实现在展平图像维度 的高维协方差模型,保留可见空间结构而不施加卷积偏置。这些应用反映了单一原则:稠密几何可在不存储稠密矩阵的前提下学习,从而实现在普通稠密层不可及的范围内的数据自适应全局相互作用。就此而言,LAPLEX 将可表达性与存储成本分离:它行为类似稠密可训练矩阵,但通过小型结构化参数集合进行表示和应用。
引用
@article{arxiv.2605.24584,
title = {LAPLEX: The FFT of Learnable Laplace Kernels},
author = {Łukasz Struski and Hanna Blazhko and Piotr Kubaty and Jacek Tabor},
journal= {arXiv preprint arXiv:2605.24584},
year = {2026}
}