人类在检测由 AI 驱动的语音克隆方面能力极其有限
人机交互
2025-04-02 v2 人工智能
计算机与社会
声音
音频与语音处理
摘要
随着生成式人工智能（AI）的猛烈推进，文本、音频、图像和视频等内容的生成正在以不断提升的逼真度模拟人类生成的内容。通过一系列感知研究，本文报告了 AI 生成语音在身份匹配和自然度方面的真实感。我们发现，人类参与者无法持续识别 AI 生成语音的录音。具体而言，参与者将 AI 语音的身份感知为与其真实版本相同者约为 80%，正确识别语音为 AI 生成者约为 60%。
引用
@article{arxiv.2410.03791,
title = {People are poorly equipped to detect AI-powered voice clones},
author = {Sarah Barrington and Emily A. Cooper and Hany Farid},
journal= {arXiv preprint arXiv:2410.03791},
year = {2025}
}