深度伪造检测、威慑与响应：挑战与机遇

根据2020年网络威胁防御报告，78%的加拿大组织在2020年经历了至少一次成功的网络攻击。此类攻击的后果从隐私泄露到对个人、公司和国家造成巨大损失成本不等。专家预测，到2025年全球网络犯罪年损失将达到10.5万亿美元。鉴于如此惊人的统计数据，预防和预测网络攻击的需求空前之高。我们日益依赖基于机器学习(ML)的系统，引发了人们对这些系统安全性和可靠性的严重担忧。尤其是强大的ML技术能够生成具有高度欺骗人类潜力的虚假视觉、文本或音频内容，引发了严重的伦理关切。这些人工制造的欺骗性视频、图像、音频或文本被称为Deepfakes（深度伪造），因其在制造假新闻、骗局、报复性色情和金融欺诈中的潜在用途而受到关注。深度伪造的多样性和广泛传播使其及时检测成为重大挑战。在本文中，我们首先提供背景信息并回顾先前关于深度伪造检测和威慑的工作。随后，我们提出一种解决方案，能够：1)在开发和部署阶段使我们的AI系统对深度伪造具有鲁棒性；2)检测视频、图像、音频和文本深度伪造；3)识别绕过检测的深度伪造（深度伪造追踪）；4)利用可用情报及时识别由国家支持黑客团队发起的深度伪造活动；5)对已识别深度伪造载荷进行深度取证分析。我们的解决方案将解决加拿大国家网络安全行动计划(2019-2024)中提高关键服务可信度的重要要素。