“KAN 你能听见我吗？”探索 Kolmogorov-Arnold 网络在口语理解中的应用
计算与语言
2025-05-27 v1 机器学习
音频与语音处理
摘要
Kolmogorov-Arnold 网络 (KANs) 最近作为一种有前景的传统神经网络架构替代方案而出现，但其在语音处理中的应用仍待深入探索。本工作首次研究了 KANs 在口语理解 (SLU) 任务中的应用。我们在两个数据集上实验了 2D-CNN 模型，在密集块内以五种不同配置集成了 KAN 层。表现最佳的设置将 KAN 层置于两个线性层之间，直接应用于基于 Transformer 的模型，并在复杂度递增的五个 SLU 数据集上进行了评估。结果表明，KAN 层能有效替代线性层，在多数情况下取得相当或更优的性能。最后，我们深入分析了 Transformer 顶部的 KAN 层与线性层在关注原始波形输入区域时的不同方式。
引用
@article{arxiv.2505.20176,
title = {"KAN you hear me?" Exploring Kolmogorov-Arnold Networks for Spoken Language Understanding},
author = {Alkis Koudounas and Moreno La Quatra and Eliana Pastor and Sabato Marco Siniscalchi and Elena Baralis},
journal= {arXiv preprint arXiv:2505.20176},
year = {2025}
}
备注
Accepted at INTERSPEECH 2025