KAN 能否行得通?探索Kolmogorov-Arnold网络在计算机视觉中的潜力
计算机视觉与模式识别
2024-11-15 v2
摘要
Kolmogorov-Arnold 网络(KANs)作为一种在理论上高效的神经网络架构,因其在捕捉复杂模式方面的潜力受到关注。然而,其在计算机视觉中的应用仍相对不为人知。本研究首先分析了 KAN 在计算机视觉任务中的潜力,评估了 KAN 及其卷积变体在图像分类和语义分割任务中的性能。重点考察了其在不同数据规模和噪声水平下的特征。结果表明,尽管 KAN 在拟合能力方面表现更佳,但其对噪声高度敏感,鲁棒性受限。为此,我们提出了光滑正则化方法,并引入分段去激活技术。两种方法均提升了 KAN 的稳定性和泛化能力,证明了其在处理复杂视觉数据任务方面的潜力。
引用
@article{arxiv.2411.06727,
title = {Can KAN Work? Exploring the Potential of Kolmogorov-Arnold Networks in Computer Vision},
author = {Yueyang Cang and Yu hang liu and Li Shi},
journal= {arXiv preprint arXiv:2411.06727},
year = {2024}
}