生成式人工智能提供者对用户生成的儿童性暗示物质（CSAM）的刑事责任

更强大的生成式人工智能（GenAI）的发展不仅扩充了其能力范围，也丰富了输出种类。这带来了一系列法律挑战，包括在各类法律体系中的责任界定存在灰色地带——即对负责此类模型的个人或组织的刑事责任如何评估。因此，我们开展了一项跨学科研究，运用德国相关法律条文的文字解释方法，结合具体情景，探讨了 GenAI 在儿童性暗示物质（CSAM）生成情境下的不同属性。我们发现，使用 GenAI 生成 CSAM 不仅可能导致提交主要犯罪的使用者承担刑事责任，还可能导致负责此类模型的个人（如独立软件开发者、研究人员及公司代表）承担相应责任。此外，刑事责任的评估可能受到情境因素和技术因素的影响，包括生成图像的类型、内容审查政策以及模型的原意用途。基于我们的发现，我们讨论了针对不同角色的影响以及开发此类系统时的要求。