DKD-KAN：基于MLP和KAN的轻量级知识蒸馏KAN入侵检测框架
计算机视觉与模式识别
2026-03-09 v2 人工智能
机器人学
摘要
cyber-security 系统常常在资源受限的环境中运行，如边缘环境和实时监控系统，其中模型大小和推理时间至关重要。提出一种轻量级入侵检测框架，利用Kolmogorov-Arnold Network (KAN)捕获数据中的复杂特征，同时采用解耦式知识蒸馏（DKD）训练方法实现高效。首先训练一个高容量KAN网络用于检测测试环境中的攻击。该模型随后作为教师模型，通过DKD指导一个远小的多层感知器（MLP）学生模型。最终得到的DKD-MLP模型在WADI和SWaT数据集上分别仅包含2,522和1,622个参数，显著小于KAN教师模型的参数数量，特别适合部署在计算资源有限的受限设备上。尽管规模小，学生模型仍保持高性能。我们的方案表明，KAN作为知识丰富的教师模型可用于训练远小的学生模型，而不会在入侵检测框架中显著降低准确率。我们在两个公开数据集上验证了该方法。在WADI数据集上使用DKD-MLP模型相较于裸学生模型实现F1分数提升4.18%，在SWaT数据集上实现F1分数提升3.07%。本论文的实现已在我们的GitHub仓库中提供。
引用
@article{arxiv.2603.03485,
title = {Phys4D: Fine-Grained Physics-Consistent 4D Modeling from Video Diffusion},
author = {Haoran Lu and Shang Wu and Jianshu Zhang and Maojiang Su and Guo Ye and Chenwei Xu and Lie Lu and Pranav Maneriker and Fan Du and Manling Li and Zhaoran Wang and Han Liu},
journal= {arXiv preprint arXiv:2603.03485},
year = {2026}
}