分析AI脱衣应用生态系统
人机交互
2024-11-18 v1 计算机视觉与模式识别
摘要
给定一张穿着衣服的人(图像主体)的源图像,基于AI的脱衣应用可以生成该人的裸体(未穿衣)图像。此外,此类应用不仅存在,而且有充分证据表明它们在现实世界中未经图像主体同意就被使用。尽管如此,尽管人们越来越意识到此类应用的存在及其侵犯图像主体权利和造成下游危害的潜力,但目前尚无针对多个应用的脱衣应用生态系统的系统性研究。我们在此进行这样一项研究,重点关注20个流行且易于找到的脱衣网站。我们研究了这些网络应用的定位(例如,发现大多数网站明确针对女性脱衣,而非所有人)、它们宣传的功能(例如,从原地脱衣到以性姿势渲染图像主体,以及不同的用户隐私选项)以及它们底层的货币化基础设施(例如,信用卡和加密货币)。我们相信这项工作将赋能未来在科学、技术和政策社区内进行的、基于数据的讨论,探讨如何在现代(和未来)基于AI的脱衣应用面前更好地保护个人权利并最小化伤害。内容警告:本文包含可用于创建合成非自愿露骨AI生成图像(SNEACI)的网络应用的描述。本文还包含此类应用用户界面的艺术渲染图。
引用
@article{arxiv.2411.09751,
title = {Analyzing the AI Nudification Application Ecosystem},
author = {Cassidy Gibson and Daniel Olszewski and Natalie Grace Brigham and Anna Crowder and Kevin R. B. Butler and Patrick Traynor and Elissa M. Redmiles and Tadayoshi Kohno},
journal= {arXiv preprint arXiv:2411.09751},
year = {2024}
}
备注
22 pages, 5 figures, 2 tables