媒体完整性与认证：现状、方向与未来

我们提供关于媒体完整性和认证方法的背景信息及未来方向，重点关注区分由 AI 生成的媒体与由相机和麦克风捕获的真实内容。我们评估了几种方法，包括来源证明、水印和指纹。定义每种方法后，我们分析了三种代表性技术：加密来源证明、不可感知水印和软哈希指纹。我们分析了这些工具在不同模态上的运行方式，并评估了相关威胁模型、攻击类别以及从捕获、编辑、分发到验证的实际工作流程。我们考虑了能够反转完整性信号的社会技术反向攻击，使真实内容看起来像合成内容，反之亦然，凸显了抗技术和心理社会操纵都具备韧性的验证系统的价值。最后，我们概述了用于交付高置信度来源证明认证的技术，包括加强边缘设备安全使用的方向，例如利用安全封闭 enclave。