用于鲁棒序列分类的时间注意力门控模型
计算机视觉与模式识别
2017-04-18 v2 计算与语言
摘要
典型的序列分类技术是为经过编辑去除噪声或无关部分的良好分段序列设计的。因此,此类方法不易应用于现实应用预期的噪声序列。本文提出时间注意力门控模型(TAGM),其整合了注意力模型与门控循环网络的思想,以更好地处理噪声或未分段序列。具体而言,我们扩展注意力模型的概念来衡量序列中每个观测(时间步)的相关性。随后我们使用一种新颖的门控循环网络来学习用于最终预测的隐藏表示。我们方法的一个重要优势是可解释性,因为时间注意力权重为序列中每个时间步的显著性提供了有意义的值。我们在三个不同任务上展示了TAGM方法在预测准确率和可解释性方面的优点:语音数字识别、基于文本的情感分析和视觉事件识别。
引用
@article{arxiv.1612.00385,
title = {Temporal Attention-Gated Model for Robust Sequence Classification},
author = {Wenjie Pei and Tadas Baltrušaitis and David M. J. Tax and Louis-Philippe Morency},
journal= {arXiv preprint arXiv:1612.00385},
year = {2017}
}
备注
Accepted by CVPR 2017