深度伪造视频上的伪影放大提升人类检测率与主观置信度

易于自动伪造视频技术的发展，引发了关于人们在线辨别虚假信息能力的现实问题。人们对深度伪造视频的脆弱性如何？可应用何种技术提升其表现？人类对深度伪造视频的易感性通常在实验室环境中测量，这并未反映真实浏览的挑战。在典型浏览中，深度伪造稀少、与视频交互可能短暂、参与者可能分心，或视频流质量可能下降。此处我们在这些生态观看条件下测试深度伪造检测，发现所有情形下检测均降低。信号检测理论原理表明不同观看条件影响了检测性能的不同维度。总体而言，这表明当前文献低估了人们对深度伪造的易感性。接下来，我们考察计算机视觉模型如何整合入用户决策过程以提升深度伪造检测的准确性与置信度。我们评估了通过放大伪造视频中的伪影来向用户传达模型预测的有效性。我们发现伪影放大在使伪造视频区别于真实视频上高度有效，且跨观看条件稳健。此外，相比传统基于文本的提示，伪影放大更具说服力：人们更常接受模型建议，并对模型支持的最终决策报告更高置信度，尤其对更具挑战性的视频。总体而言，这表明在伪造视频上引起畸变的视觉指示符可能高度有效地减轻伪造视频的影响。