基于简单注意力模块的说话人验证与迭代噪声标签检测
声音
2021-10-14 v1 音频与语音处理
摘要
近年来，注意力机制如挤压激励模块（SE）和卷积块注意力模块（CBAM）在基于深度学习的说话人验证系统中取得了巨大成功。本文介绍了一种替代的有效且简单的注意力模块，即简单注意力模块（SimAM），用于说话人验证。SimAM 模块是一个即插即用模块，无需额外的模态参数。此外，我们提出了一种噪声标签检测方法，用于迭代地从训练数据中过滤出带有噪声标签的数据样本，考虑到大规模数据集可能包含由人工标注或其他自动化过程产生的噪声标签。带有噪声标签的数据可能会过度参数化深度神经网络（DNN），并由于 DNN 的记忆效应导致性能下降。在 VoxCeleb 数据集上进行了实验。使用 SimAM 的说话人验证模型在 VoxCeleb1 原始测试集上实现了 0.675% 的等错误率（EER）。我们提出的迭代噪声标签检测方法进一步将 EER 降低到 0.643%。
引用
@article{arxiv.2110.06534,
title = {Simple Attention Module based Speaker Verification with Iterative noisy label detection},
author = {Xiaoyi Qin and Na Li and Chao Weng and Dan Su and Ming Li},
journal= {arXiv preprint arXiv:2110.06534},
year = {2021}
}
备注
submitted to ICASSP2022