地平线上的交互式与组合式深度伪造

在五年间，生成高保真、虚构人物与事件描绘的计算方法，从计算机科学研究团队的罕见演示，演变为持续用作虚假信息工具。这些被称为“deepfakes（深度伪造）”的方法已被用于创建极具说服力的视听内容。在此，我分享两类恶意使用深度伪造所带来的未来挑战，我们可预期其将投入实践并对社会造成昂贵代价：交互式与组合式深度伪造。交互式深度伪造能够利用多模态交互的进展，以逼真交互行为冒充他人。组合式深度伪造在更大的虚假信息计划中利用合成内容，随时间的推移将一组深度伪造与观测到、预期及人为制造的世界事件相整合，以创造有说服力的合成历史。合成历史可手动构建，但未来某一天或可由对抗生成解释（adversarial generative explanation, AGE）技术引导。若无缓解措施，交互式与组合式深度伪造恐将把我们推向一个后真理世界，在那里事实与虚构无从区分。我将描述交互式与组合式深度伪造，并反思防范它们的警示与潜在缓解手段。