中文

LAPLEX:可学习拉普拉斯核的 FFT

机器学习 2026-05-26 v1 人工智能

摘要

深度学习中的快速线性代数通常面临一种选择:固定几何和精确计算,如傅里叶变换;或通过稠密参数、随机特征或低秩近似实现可适应几何,代价为计算复杂度。为超越这一权衡,我们引入 LAPLEX,即一类精确、可训练(相位)拉普拉斯核算子。LAPLEX 层是一个通常满秩稠密矩阵,隐式定义于可学习坐标锚点之间,具有类 FFT 规模。因此,它支持在现代 GPU 上达到 10910^9 向量维度的可训练矩阵-向量运算。作为神经层,它产生紧凑的投影和分类头,可解释为软、可学习的路由模型。相同原语也作为高效 Gram 算子,实现在展平图像维度 31063 \cdot 10^6 的高维协方差模型,保留可见空间结构而不施加卷积偏置。这些应用反映了单一原则:稠密几何可在不存储稠密矩阵的前提下学习,从而实现在普通稠密层不可及的范围内的数据自适应全局相互作用。就此而言,LAPLEX 将可表达性与存储成本分离:它行为类似稠密可训练矩阵,但通过小型结构化参数集合进行表示和应用。

关键词

引用

@article{arxiv.2605.24584,
  title  = {LAPLEX: The FFT of Learnable Laplace Kernels},
  author = {Łukasz Struski and Hanna Blazhko and Piotr Kubaty and Jacek Tabor},
  journal= {arXiv preprint arXiv:2605.24584},
  year   = {2026}
}