Spoken Stereoset：面向语音大语言模型中说话者社会偏见的评估
计算与语言
2025-05-22 v1 音频与语音处理
摘要
警告：本文可能包含令人不适的内容。大语言模型（LLMs）在各种任务中取得了显著成果，包括涉及语音等多模态数据的任务。然而，这些模型由于训练数据的特性而常常表现出偏见。最近，越来越多的语音大语言模型（SLLMs）涌现，凸显了解决这些偏见的紧迫性。本研究提出了 Spoken Stereoset，一个专门用于评估 SLLMs 中社会偏见的数据集。通过考察不同模型对来自不同人口统计群体的语音的响应方式，我们旨在识别这些偏见。我们的实验揭示了关于其性能和偏见水平的显著见解。研究结果表明，虽然大多数模型表现出极低的偏见，但一些模型仍显示出略微的刻板印象倾向或反刻板印象倾向。
引用
@article{arxiv.2408.07665,
title = {Spoken Stereoset: On Evaluating Social Bias Toward Speaker in Speech Large Language Models},
author = {Yi-Cheng Lin and Wei-Chih Chen and Hung-yi Lee},
journal= {arXiv preprint arXiv:2408.07665},
year = {2025}
}