深伪造是什么？欧盟AI法规下合法处理与操纵之间的模糊界限

数字图像何时像现实？随着合成图像（即所谓深度伪造）的生成变得越来越流行，这一问题的相关性日益增加。深度伪造因其潜在的对政治氛围的破坏作用而引起广泛关注。为缓解这些威胁，欧盟AI法案对生成合成内容或操纵现有内容实施了特定的透明度规定。然而，实质上与合成图像区分的难度——即使从计算机视觉角度出发——远非简单。我们认为，当前欧盟AI法案中对深度伪造的定义以及相应的义务规定不够明确，无法充应深度伪造所面临的挑战。通过分析数字照片从摄像头传感器到数字编辑功能的整个生命周期，我们发现：(1)欧盟AI法案中深度伪造的定义模糊不清，定义为其提供过多的深度伪造是什么的余地。(2)诸如谷歌“最佳瞬间”功能等编辑功能如何被视为透明度义务的例外，尚不明确。(3)对于大幅编辑后图像的例外提出了关于何为实质性编辑以及这种编辑是否必须被自然人感知到的疑问。我们的结果表明，遵循当前AI法案的透明度义务对提供者和部署者来说具有挑战性。由于措施不明确，存在例外范围过宽或过窄的风险。我们意在促进关于深度伪造应何为的讨论，并提高对当前AI法案透明度义务中漏洞的 awareness。