真实世界中的AI生成人脸：Twitter个人资料图片的大规模案例研究

近期生成式人工智能领域的进展模糊了真实内容与机器生成内容之间的界限，使得人类几乎无法区分此类媒介。这一现象的一个显著后果是，AI生成的图像被用于社交媒体上的虚假个人资料。尽管过去报道了多起类似的虚假信息活动，但尚无系统性分析。本文开展了对Twitter个人资料图片中AI生成内容流行程度的首次大规模调查。我们通过仔细整合各种数据源并设计多阶段检测管道来应对现实世界测量研究的挑战。我们的分析显示，近1500万条Twitter个人资料图片中，有0.052%被人为生成，证实其在平台上的显著存在。我们全面审查了这些账户及其推文内容，揭示了不实行为的协调模式。研究结果还揭示了多种动机，包括垃圾信息生成和政治放大宣传活动。我们的研究重新证明了有效检测与缓解策略的必要性，以应对生成式AI未来潜在的负面影响。