中文

绘制生成式人工智能用于线上选举干扰的恶意用途图景

计算机与社会 2025-05-02 v5

摘要

生成式人工智能(GenAI)和大型语言模型(LLM)在选举干扰领域呈现出重大风险。本文探讨了 GenAI 的恶意应用,突出其潜在通过深度伪造、僵尸网络、定向虚假信息活动和合成身份等方式破坏民主进程的可能性。通过审视近期案例和公共事件,我们说明了恶意行为者如何利用这些技术试图影响选民行为、传播虚假信息并动摇选举系统公众信任。本文还讨论了这些威胁的社会影响,强调迫切需要强有力的缓解策略和国际合作以保卫民主完整性。

关键词

引用

@article{arxiv.2406.01862,
  title  = {Charting the Landscape of Nefarious Uses of Generative Artificial Intelligence for Online Election Interference},
  author = {Emilio Ferrara},
  journal= {arXiv preprint arXiv:2406.01862},
  year   = {2025}
}

备注

First Monday, 2025