利用时序 Lambda 网络捕获长程交互的高效关键词 spotting
音频与语音处理
2021-07-02 v2
摘要
基于注意力机制的模型已展现出前所未有的语音识别性能。然而，对于面向小 footprint 设备的关键词 spotting 任务而言，它们计算开销大且过于复杂。本工作探索了 Lambda 网络（一种无需注意力即可捕获长程交互的替代框架）在关键词 spotting 任务中的应用。我们通过将残差块替换为时序 Lambda 层，提出了一种新颖的基于 \textit{ResNet} 的模型。此外，所提架构建立在一维时序卷积之上，进一步降低了其复杂度。所提模型不仅在 Google Speech Commands 数据集上达到了 SOTA 准确率，而且比其基于 Transformer（KWT）与卷积（Res15）的对应模型分别轻 85% 与 65%，同时最高快 100 倍。据我们所知，这是在语音领域内探索 Lambda 框架的首次尝试，因此我们揭示了基于该架构的新接口进一步研究的可能性。
引用
@article{arxiv.2104.08086,
title = {Efficient Keyword Spotting by capturing long-range interactions with Temporal Lambda Networks},
author = {Biel Tura and Santiago Escuder and Ferran Diego and Carlos Segura and Jordi Luque},
journal= {arXiv preprint arXiv:2104.08086},
year = {2021}
}
备注
speech recognition, keyword spotting, lambda networks