下一个有影响力的人：生成式AI如何被误信息创作者所利用

生成式AI的进步引发了关于检测和区分AI生成内容与人类生成内容的担忧。大多数现有文献假设存在一种范式，即“专家”组织的误信息创作者和不完善的AI模型欺骗“普通”用户。基于2022-2023年与误信息创作者和消费者之间的纵向族谱研究，我们发现，生成式AI支持破袭工作，非专家越来越多地使用生成式AI对内容进行拼贴、重新包装和（重新）生产，以满足其个人需求和愿望。这项研究产生了四项关键发现：首先，参与者主要将生成式AI用于创作，而非寻求真相。其次，一场蔓延的“有影响力的亿万富翁”叙事驱动了参与者成为内容创作者，使用生成式AI作为生产力工具来生成大量（常常是误信息）内容。第三，生成式AI降低了内容创作的进入门槛，吸引了消费者成为创作者，并显著增加了现有创作者的产出。最后，参与者使用生成式AI学习并部署营销策略以扩大参与度并实现内容变现。我们主张将分析从内容的普通消费者转向使用生成式AI进行破袭的创作者，他们往往对其底层技术有深入的了解。我们分析了这些少数研究的新兴用途如何产生新的或加速的误信息危害，以及其对AI产品、平台和政策的影响。