通过 K-A Network 增强联合学习：不同聚合策略的比较研究
机器学习
2025-05-13 v1
摘要
多层感知器 (MLP) 作为一种简单而强大的模型，仍在分类和回归任务中广泛使用。然而，传统 MLP 在处理复杂数据集时，往往难以有效捕捉负载数据中的非线性关系。受 Kolmogorov-Arnold 表示定理启发，Kolmogorov-Arnold 网络 (KAN) 在建模复杂非线性关系方面显示出前景。本研究探索了 KAN 在联合学习 (FL) 框架中的性能，并将其与传统多层感知器进行比较。我们的实验在四个多样化数据集上进行，表明 KAN 在准确率、稳定性和收敛效率方面 consistently 优于 MLP。KAN 在不同客户端数量和非 IID 数据分布下表现出卓越的鲁棒性，随着客户端异构性的增加，性能仍保持优势。值得注意的是，KAN 比 MLP 需要更少的通信轮数就能收敛，这突显了其在 FL 场景下的效率。此外，我们评估了多种参数聚合策略，其中修剪均值和 FedProx 对优化 KAN 性能最为有效。这些发现将 KAN 确立为联合学习任务中一种稳健且可扩展的 MLP 替代方案，为其在去中心化和隐私保留环境中的应用铺平了道路。
引用
@article{arxiv.2505.07629,
title = {Enhancing Federated Learning with Kolmogorov-Arnold Networks: A Comparative Study Across Diverse Aggregation Strategies},
author = {Yizhou Ma and Zhuoqin Yang and Luis-Daniel Ibáñez},
journal= {arXiv preprint arXiv:2505.07629},
year = {2025}
}
备注
This preprint has not undergone peer review or any post-submission improvements or corrections. It was prepared prior to submission to, and has since been accepted at, ICIC 2025. The final Version of Record will be published in the ICIC 2025 proceedings by Springer