QuantKAN：面向 Kolmogorov Arnold 网络的统一量化框架
摘要
Kolmogorov Arnold 网络 (KANs) 表示一种新型神经网络架构，用沿网络边缘分布的样条函数逼近取代传统的线性变换和节点基于非线性函数。虽然 KANs 在表达性和可解释性方面具有强大优势，但其异构的样条和基分支参数阻碍了高效量化，而这在 CNN 和 Transformer 之后仍未得到充分考察。本文提出了 QuantKAN，一个用于量化 KANs 的统一框架，覆盖量化感知训练 (QAT) 和后训练量化 (PTQ) 两种 regime。QuantKAN 将现代量化算法如 LSQ、LSQ+、PACT、DoReFa、QIL、GPTQ、BRECQ、AdaRound、AWQ 和 HAWQ-V2 等扩展到基于样条的图层，并为基、样条和激活组件提供分支特定的量化器。通过在 MNIST、CIFAR 10 和 CIFAR 100 上对多个 KAN 变体 (EfficientKAN、FastKAN、PyKAN 和 KAGN) 进行大量实验，我们建立了低比特样条网络的首个系统性基准。我们的结果表明，KANs，特别是更深的 KAGN 变体，在低比特量化方面与 CNN 和 Transformer 相当，但 exhibits 强烈的方法架构相互作用：LSQ、LSQ+ 和 PACT 在浅层 KAN MLP 和 ConvNet 模型中可在 4 位下保持接近全精度的准确性，而 DoReFa 在激进的低比特设置下为更深的 KAGN 提供最稳定的行为。在 PTQ 方面，GPTQ 和 Uniform 在数据集之间提供最强的整体性能，BRECQ 在更简单如 MNIST 的情形下表现极具竞争力。我们提出的 QuantKAN 框架统一了样条学习和量化，为在资源受限环境中高效部署 KANs 提供了实用工具和指南。
引用
@article{arxiv.2511.18689,
title = {QuantKAN: A Unified Quantization Framework for Kolmogorov Arnold Networks},
author = {Kazi Ahmed Asif Fuad and Lizhong Chen},
journal= {arXiv preprint arXiv:2511.18689},
year = {2026}
}