传感器变换注意力网络
机器学习
2017-08-04 v1 计算机视觉与模式识别
摘要
近期关于序列到序列映射的编码器-解码器模型的研究表明，将时间和空间注意力机制集成到神经网络中可大幅提升系统性能。在本工作中，我们报告了一种注意力信号的应用，不是作用于输入的时间和空间区域，而是作为一种在输入本身之间进行切换的方法。我们评估了在传感器存在动态噪声时注意力切换的特定作用，并展示了注意力信号如何对环境中的变化噪声水平动态响应，从而在三个常用数据集（TIDIGITS、Wall Street Journal 和 GRID）上的音频和视觉任务中实现性能提升。此外，所提出的传感器变换网络架构自然带来了若干值得探索的优势，包括向现有架构添加新传感器的便捷性、注意力的可解释性，以及在训练期间未见过的多种噪声环境中增强的鲁棒性。最后，我们展示了仅在小型TIDIGITS数据集上训练的模型的传感器选择注意力机制，可以直接迁移到在Wall Street Journal数据集上训练的现有更大网络，保持传感器间切换的功能，从而在噪声存在时大幅降低错误率。
引用
@article{arxiv.1708.01015,
title = {Sensor Transformation Attention Networks},
author = {Stefan Braun and Daniel Neil and Enea Ceolini and Jithendar Anumula and Shih-Chii Liu},
journal= {arXiv preprint arXiv:1708.01015},
year = {2017}
}
备注
8 pages, 5 figures, 3 tables