Careless Whisper：语音转文本幻觉的危害
计算与语言
2024-05-06 v2 计算机与社会
摘要
语音转文本服务旨在尽可能准确地转录输入音频。它们在日常生活中发挥着越来越重要的作用，例如在个人语音助手或客户与公司的互动中。我们评估了 Open AI 的 Whisper，这是一款截至 2023 年表现优于行业竞争对手的最先进自动语音识别服务。虽然 Whisper 的许多转录高度准确，但我们发现大约 1% 的音频转录包含整个幻觉短语或句子，这些内容在底层音频中以任何形式都不存在。我们对 Whisper 幻觉内容进行了主题分析，发现 38% 的幻觉包含明确危害，如延续暴力、编造不准确的关联或暗示虚假权威。随后，我们通过观察失语症患者（其使用言语和声音表达自我的能力降低）与对照组之间幻觉率的差异，研究了幻觉发生的原因。我们发现，幻觉不成比例地发生在说话时非发声持续时间占比较长的个体身上——这是失语症的一个常见症状。我们呼吁行业从业者改善 Whisper 中这些基于语言模型的幻觉，并提高人们对语音转文本模型下游应用中幻觉可能放大的偏见的认识。
引用
@article{arxiv.2402.08021,
title = {Careless Whisper: Speech-to-Text Hallucination Harms},
author = {Allison Koenecke and Anna Seo Gyeong Choi and Katelyn X. Mei and Hilke Schellmann and Mona Sloane},
journal= {arXiv preprint arXiv:2402.08021},
year = {2024}
}