深度学习生成的社交媒体档案是否可与真实档案无法区分？
社会与信息网络
2022-09-16 v1
摘要
近年来，深度学习方法生成近乎照片级真实的图像与类人文本的能力日益增强，以至于人类已无法分辨何为真实、何为AI生成。令人担忧的是，有证据表明其中部分方法已被用于生成虚假社交媒体档案与内容。我们假设，这些进展已使得普通社交媒体用户极难（即便并非不可能）在信息流中检测生成的虚假社交媒体内容。本文呈现一项实验结果，其中375名参与者试图在一个模拟社交媒体信息流中标注真实与生成的档案及帖子。结果支持我们的假设，并表明即便是由先进文本生成器撰写帖子的完全生成的虚假档案，人类也难以识别。
引用
@article{arxiv.2209.07214,
title = {Are Deep Learning-Generated Social Media Profiles Indistinguishable from Real Profiles?},
author = {Sippo Rossi and Youngjin Kwon and Odd Harald Auglend and Raghava Rao Mukkamala and Matti Rossi and Jason Thatcher},
journal= {arXiv preprint arXiv:2209.07214},
year = {2022}
}
备注
This paper has been accepted for the upcoming 56th Hawaii International Conference on System Sciences (HICSS-56)