深度伪造色情内容对监管与平台冲击具有韧性

生成式人工智能工具使更容易创建逼真的、非自愿的明晰色情内容（常被称为深度伪造色情内容；以下简称 SNCEI）。一旦创建，这些 SNCEI 常被分享到各种网站，造成对受害者的显著伤害。这种新型性虐待形式最近在美国联邦层面通过 S.146《下课法案》（TAKE IT DOWN Act）予以刑事化。在法案生效前不久的一周后，MrDeepfakes 网站——最著名的 SNCEI 创作与传播促进者之一——关闭了。本研究探讨了法案通过和随后网站关闭作为复合干预对 SNCEI 传播的影响。我们选取了三个包含专门组织各种性显著内容子版块的在线论坛，利用每个论坛的设计，比较专门用于 SNCEI 的子版块活动与其他色情类型子版块的活动，采用合成对照、准实验方法。我们观察到在各网站上，SNCEI 的分享和请求量增加，某些情况下，新的贡献者也增多了。这表明复合干预并未整体压制 SNCEI 活动，而是与其在平台之间重新分配的同时，呈现出显著的时序和规模异质性。总体而言，我们的发现表明，去平台化和监管信号本身可能只是改变 SNCEI 产生和分享的地点和时间，而非降低其普遍性。