GenAI 反人类：生成式人工智能与大语言模型的恶意应用

生成式人工智能（GenAI）与大语言模型（LLMs）是技术奇迹；它们以在自然语言处理与多模态内容生成方面的能力而备受赞誉，有望带来变革性的未来。但如同所有强大工具一样，它们也投下阴影。试想生活在一个深度伪造（deepfakes）与真实无从区分、合成身份策划恶意活动、以及以空前精度炮制定向虚假信息或诈骗的世界。欢迎来到 GenAI 应用的阴暗面。本文不仅是对 GenAI 与 LLMs 潜在滥用曲折路径的巡览，也是对其紧迫挑战的警示。当我们穿行于虚假信息运动、恶意内容生成以及精密恶意软件的可怖创造之海时，将揭示这场我们所亲历的 GenAI 革命中泛起的社会影响涟漪。从社交媒体平台上 AI 驱动的僵尸网络，到 AI 生成虚构身份或合成现实所构成的不在场证明之骇人潜力，利害前所未有之巨。虚拟与现实世界的界线正模糊，GenAI 潜在恶意应用的后果波及我们所有人。本文既是对关于 GenAI 风险与 LLMs 滥用的严谨研究的综合，也是对近未来可能遭遇的各类有害 GenAI 应用及其应对之策的启发性展望。