AI 生成的儿童性虐待内容——有什么危害？
计算机与社会
2025-10-06 v1 人工智能
人机交互
摘要
能够产生完全或部分合成儿童性虐待内容（AI CSAM）的生成式人工智能工具的开发，给儿童保护、执法部门以及社会对儿童剥削的应对方式带来了深刻挑战。虽然有些人认为，由于缺乏直接受害者的感知，AI CSAM 的有害性与其他 CSAM 存在根本不同，但这种观点未能充分考虑其生产和消费所涉及的各种风险。AI 被据称用于创造从未遭受过虐待的儿童的合成 CSAM、重新受害者（已知虐待幸存者）、促进挑拨、胁迫和性勒索，以及规范儿童性剥削。此外，AI CSAM 可能作为新的或增强的入门途径，通过降低参与门槛、使用户对日益极端内容失去警觉，以及削弱对性兴趣儿童者的保护因素。本文提供了关于一些关键技术的概述，批判性地检讨了 AI CSAM 相关的危害，警告部分人声称其可能作为减损工具，强调某些关于无害性的主张掩盖了真实风险，可能导致生态系统反应中的惰性。
引用
@article{arxiv.2510.02978,
title = {AI Generated Child Sexual Abuse Material -- What's the Harm?},
author = {Caoilte Ó Ciardha and John Buckley and Rebecca S. Portnoff},
journal= {arXiv preprint arXiv:2510.02978},
year = {2025}
}