多查询多头注意力池化与类间TopK惩罚用于说话人确认
声音
2021-10-13 v2 音频与语音处理
摘要
本文描述了多查询多头注意力（MQMHA）池化和类间TopK惩罚方法，这些方法最初在我们为VoxCeleb说话人识别挑战赛（VoxSRC）2021提交的系统描述中提出。大多数多头注意力池化机制要么通过多个头关注整个特征，要么关注整个特征的几个分割部分。我们提出的MQMHA结合了这两种机制，获得了更多样化的信息。基于边界的softmax损失函数通常用于获得具有判别性的说话人表示。为了进一步增强类间可判别性，我们提出了一种方法，在一些混淆的说话人上添加额外的类间TopK惩罚。通过采用MQMHA和类间TopK惩罚，我们在所有公开的VoxCeleb测试集上实现了最先进的性能。
引用
@article{arxiv.2110.05042,
title = {Multi-query multi-head attention pooling and Inter-topK penalty for speaker verification},
author = {Miao Zhao and Yufeng Ma and Yiwei Ding and Yu Zheng and Min Liu and Minqiang Xu},
journal= {arXiv preprint arXiv:2110.05042},
year = {2021}
}
备注
submitted to ICASSP 2022