重新想象线性探针：克莱尼-阿诺德网络在迁移学习中的应用

本文介绍了将克莱尼-阿诺德网络（Kolmogorov-Arnold Networks, KAN）引入迁移学习中的线性探针方法，以克服传统线性探针在建模数据中复杂关系方面的局限性。线性探针通常应用于预训练模型的最后一层，受限于其无法建模数据中的复杂关系。为此，我们提出用 KAN 替代线性探针层，KAN 利用样条基函数来逼近复杂函数。在本研究中，我们将 KAN 集成到在 ImageNet 上预训练的 ResNet-50 模型中，并在 CIFAR-10 数据集上进行评估。我们进行了系统的超参数搜索，重点关注网格大小和样条阶数（k），以优化 KAN 的灵活性和准确性。我们的结果表明，KAN 在各种配置下均一致优于传统线性探针，实现了准确率和泛化能力的显著提升。这些发现表明，KAN 提供了一种比传统线性探针技术更强大、更具适应性的替代方案。