《沙丘》中的“声音”：可信对话智能体的经验教训

不可信对话智能体的潜力对隐蔽社会操纵构成重大威胁。以弗兰克·赫伯特的《沙丘》中 Ben Gesserit 姐妹会运用“声音”进行影响、操纵和控制他人为灵感，我们探讨了生成式 AI 如何在工业规模上实施个性化影响。已经，此类模型能够跨文本、图像、语音以及最近的视频进行沟通操纵。它们正变得足够便宜，以至于即便是资源有限的组织也能够训练和部署。如果被恶意行为者利用，这些模型可能成为塑造公众舆论、制造不信任、破坏组织（从公司到政府）的强大工具。作为研究者和开发者，我们必须认识到这种武器化的潜力，并探索防止、检测和反击这些新兴社会技术操纵形式的策略。