AI生成成人内容与深度伪造的交易市场
计算机与社会
2026-01-22 v2 人工智能
摘要
生成式 AI 系统日益能够生成高度逼真的合成媒体。Civitai 是一个受欢迎的社区驱动型 AI 生成内容平台，其运营着一项名为“悬赏”的变现功能，允许用户付费委托生成内容。为了考察该机制的运作方式及其所激励的内容，我们在该平台上线后的 14 个月内，对所有公开可用的悬赏请求进行了纵向分析。我们发现，悬赏市场主要由那些引导 AI 模型生成其未经训练内容的工具所主导。同时，对“工作场所不宜”内容的需求广泛存在并随时间稳步增长，目前已占所有悬赏的多数。悬赏创建的参与度不均，20% 的请求者贡献了约一半的请求。对“深度伪造”——描绘可识别真实个人的媒体——的请求比其他类型的悬赏表现出更高的集中度。尽管平台政策禁止此类内容，但这些请求中仍有相当一部分涉及露骨深度伪造。这些悬赏不成比例地针对女性名人，揭示了社会危害中显著的性别不对称。综合而言，这些发现表明变现的、社区驱动的生成式 AI 平台如何产生性别化危害，引发了关于同意、治理和执法的疑问。
引用
@article{arxiv.2601.09117,
title = {A Marketplace for AI-Generated Adult Content and Deepfakes},
author = {Shalmoli Ghosh and Matthew R. DeVerna and Filippo Menczer},
journal= {arXiv preprint arXiv:2601.09117},
year = {2026}
}