用于口语理解的高效意图分类
计算与语言
2020-02-17 v2 声音
音频与语音处理
摘要
口语理解(SLU)系统由若干协同工作的机器学习组件构成（例如意图分类、命名实体识别与解析）。深度学习模型在其中的若干任务上取得了最先进的成果，很大程度上归功于其更强的建模能力。然而，建模能力的提升伴随着更高的延迟与能耗代价，尤其在低复杂度设备上运行时。为解决延迟与计算复杂度问题，我们在 SLU 系统中的意图分类方案上探索了 BranchyNet 方案。将 BranchyNet 方案应用于高复杂度模型时，会在模型的不同阶段添加退出点，从而允许对一部分 SLU 模型查询进行早期决策。我们在 Facebook Semantic Parsing 数据集上以两种候选模型架构进行意图分类实验。我们的实验表明，BranchyNet 方案在不损害模型精度的前提下带来了计算复杂度上的收益。我们还就计算成本的改善、从各退出点退出的话语分布以及为采用 BranchyNet 方案的模型增加更多复杂度的影响进行了分析研究。
引用
@article{arxiv.1912.01728,
title = {Fast Intent Classification for Spoken Language Understanding},
author = {Akshit Tyagi and Varun Sharma and Rahul Gupta and Lynn Samson and Nan Zhuang and Zihang Wang and Bill Campbell},
journal= {arXiv preprint arXiv:1912.01728},
year = {2020}
}
备注
Accepted as a conference paper at ICASSP 20