焦点论文：生成式 AI 如何重塑数字黑产与影子产业？
计算机与社会
2023-05-31 v1 人工智能
摘要
数字经济的快速发展催生了各类黑色与影子互联网产业，这些产业带来潜在风险，可通过使用机器学习与深度学习等不同技术的数字风险管理（DRM）来识别与管理。DRM 架构的演进由数据形态的变化所驱动。然而，以 ChatGPT 和 Stable Diffusion 为代表的 AI 生成内容（AIGC）技术的发展，为黑色与影子产业提供了强大工具，使其得以个性化数据并生成用于欺诈活动的逼真图像与对话。这对 DRM 系统从数据生成源头控制风险并快速应对快速变化的风险环境提出了挑战。本文旨在从黑/影子产业的上游、中游和下游路径对 AIGC 带来的挑战与机遇进行技术分析，并为改进现有风控系统指明未来方向。本文将探讨由生成式 AI 技术引发的新黑产与影子技术，并为构建下一代 DRM 系统提供见解。
引用
@article{arxiv.2305.18346,
title = {Attention Paper: How Generative AI Reshapes Digital Shadow Industry?},
author = {Qichao Wang and Huan Ma and Wentao Wei and Hangyu Li and Liang Chen and Peilin Zhao and Binwen Zhao and Bo Hu and Shu Zhang and Zibin Zheng and Bingzhe Wu},
journal= {arXiv preprint arXiv:2305.18346},
year = {2023}
}