面向硬件的柯尔莫哥洛夫-阿诺德网络推理复杂度
机器学习
2026-04-07 v1
摘要
柯尔莫哥洛夫-阿诺德网络（KANs）近来已成为各种机器学习应用中的一种强大架构。然而，其独特的结构引发了对其计算开销的显著担忧。现有研究主要根据基于 GPU 的训练和推理所需的浮点运算次数（FLOPs）来评估 KAN 的复杂度。然而，在许多对延迟敏感且功耗受限的部署场景中，例如光通信中基于神经网络的非线性抑制或无线通信中的信道状态估计，训练是离线进行的，并且专用硬件加速器比 GPU 更受青睐用于推理。近期的硬件实现研究使用特定平台的资源消耗指标（如查找表、触发器和块 RAM）来报告 KAN 复杂度。然而，这些指标需要完整的硬件设计和综合阶段，这限制了它们在早期架构决策和跨平台比较中的效用。为了解决这个问题，我们推导出通用的、平台无关的公式，用于从实数乘法（RM）、位操作（BOP）以及加法和位移次数（NABS）方面评估 KAN 的硬件推理复杂度。我们将分析扩展到多种 KAN 变体，包括 B-样条、高斯径向基函数（GRBF）、切比雪夫和傅里叶 KANs。所提出的指标可以直接从网络结构计算得出，并能够在 KAN 与其他神经网络架构之间进行公平且直接的推理复杂度比较。
引用
@article{arxiv.2604.03345,
title = {Hardware-Oriented Inference Complexity of Kolmogorov-Arnold Networks},
author = {Bilal Khalid and Pedro Freire and Sergei K. Turitsyn and Jaroslaw E. Prilepsky},
journal= {arXiv preprint arXiv:2604.03345},
year = {2026}
}
备注
This work has been submitted to the IEEE for possible publication