探索能量模型用于方言识别的离群检测
计算与语言
2024-06-27 v1 音频与语音处理
摘要
方言的多样性为训练于特定语言模式的模型带来了挑战，使得它们在面对未见过或离群分布(OOD)数据时容易出错。本研究提出一种针对方言离群检测的新颖边际增强联合能量模型(MEJEM)。通过整合生成模型和能量边际损失，我们的方法旨在增强方言识别系统的鲁棒性。此外，我们探讨了两种离群得分用于离群方言检测，我们的发现最终证明能量得分优于 softmax 得分。利用锐度感知最小化(Sharpness-Aware Minimization)优化联合模型的训练过程，我们通过最小化损失和锐度来增强模型的泛化能力。在方言识别任务上的实验验证了能量模型的有效性，并提供了关于其性能的宝贵见解。
引用
@article{arxiv.2406.18067,
title = {Exploring Energy-Based Models for Out-of-Distribution Detection in Dialect Identification},
author = {Yaqian Hao and Chenguang Hu and Yingying Gao and Shilei Zhang and Junlan Feng},
journal= {arXiv preprint arXiv:2406.18067},
year = {2024}
}