中文

基于可解释 Kolmogorov-Arnold 网络的双深度 Q 网络的人机协同特征选择

机器学习 2026-01-09 v2 人机交互 应用统计

摘要

特征选择对于提升机器学习模型的性能和可解释性至关重要,尤其是在高维空间中,复杂的特征交互会降低准确性并增加计算需求。现有方法通常依赖静态特征子集或人工干预,限制了适应性和可扩展性。然而,动态的逐实例特征选择方法以及强化学习中的模型特定可解释性仍未被充分探索。本研究提出了一种将人机协同(HITL)特征选择框架集成到基于 Kolmogorov-Arnold 网络(KAN)的双深度 Q 网络(DDQN)中的方法。我们的新方法利用模拟人类反馈和基于随机分布(特别是 Beta 分布)的采样,逐数据实例迭代优化特征子集,提高了特征选择的灵活性。KAN-DDQN 在 MNIST 上取得了 93% 的显著测试准确率,在 FashionMNIST 上取得了 83% 的准确率,比传统的 MLP-DDQN 模型高出 9%。基于 KAN 的模型通过符号表示提供了高可解释性,同时隐藏层神经元数量仅为 MLP 的四分之一。相比之下,没有特征选择的模型在 MNIST 上仅取得 58% 的测试准确率,在 FashionMNIST 上仅取得 64%,凸显了我们框架的显著增益。我们还在 CIFAR-10 和 CIFAR-100 上验证了可扩展性,在 MNIST 上实现了高达 30% 的相对宏 F1 提升,在 CIFAR-10 上实现了 5% 的提升,同时将校准误差降低了 25%。复杂度分析确认了实时可行性,延迟低于 1 毫秒,参数数量低于 0.02M。剪枝和可视化进一步通过阐明决策路径增强了模型透明度。这些发现提供了一种可扩展、可解释的特征选择解决方案,适用于需要实时自适应决策且人工监督最少的应用。

关键词

引用

@article{arxiv.2411.03740,
  title  = {Human-in-the-Loop Feature Selection Using Interpretable Kolmogorov-Arnold Network-based Double Deep Q-Network},
  author = {Md Abrar Jahin and M. F. Mridha and Nilanjan Dey and Md. Jakir Hossen},
  journal= {arXiv preprint arXiv:2411.03740},
  year   = {2026}
}