信号 Transformer：面向信号识别的复值注意力与元学习
机器学习
2021-06-15 v2 人工智能
信号处理
摘要
近年来，深度神经网络已被证明是一类解决信号识别问题的有用工具，特别是在识别信号的非线性特征结构方面。然而，大多数深度学习技术的这种能力严重依赖于大量的训练数据，因此当训练数据样本数量较少或测试阶段出现未见过的数据时，经典神经网络的性能会急剧下降。这需要一种先进的策略，即与模型无关的元学习（MAML），它能够捕捉数据样本或信号的不变表示。在本文中，受信号特殊结构（即实际时间序列信号由实部和虚部组成）的启发，我们提出了一种复值注意力元学习器（CAMEL），通过利用复域中的注意力和元学习来解决少样本信号识别问题。据我们所知，这也是首个能够在具有理论收敛保证下找到一般非凸问题一阶平稳点的复值 MAML。大量实验结果表明，所提出的 CAMEL 相较于最先进的方法具有优越性。
引用
@article{arxiv.2106.04392,
title = {Signal Transformer: Complex-valued Attention and Meta-Learning for Signal Recognition},
author = {Yihong Dong and Ying Peng and Muqiao Yang and Songtao Lu and Qingjiang Shi},
journal= {arXiv preprint arXiv:2106.04392},
year = {2021}
}