从联合国大会发言自动生成语音：映射人工智能生成文本的风险

自动文本生成已广泛应用于营销与机器人等众多领域，并用于创建聊天机器人、产品评论与写诗。然而，合成文本的能力带来了许多潜在风险，而构建生成模型所需技术的获取正变得愈发容易。本工作呼应联合国及其他公民社会组织为凸显文本生成软件恶意使用所引发的政治与社会风险及其对人权潜在影响所做的努力。作为一个案例研究，我们展示了一项实验的发现：通过在联合国大会演讲数据集上微调预训练的 AWD-LSTM 模型，以政治领导人的风格生成讲话。本工作凸显了此举之易行性，以及将这些技术与其他技术相结合所带来的威胁。