演化 AI 群体以提升人类多样性并实现自我调节

大型语言模型的行为受到与之交互者语言的影响。这种能力以及它们日益增多的线上存在，意味着它们会以有意或无意的方式相互“编程”，形成新兴的人工智能主体性、关系和群体。本文呼吁研究社区调查这些相互作用的人工智能“社会”，以增加其对人类社会及线上环境健康的奖励和风险。我们使用小型“社区”中的模型及其演化输出，说明这些新兴的、非中心化的 AI 群体如何自发扩大人类多样性的边界，并减少线上有毒、反社会行为的风险。最后，我们讨论了 AI 跨 moderation 的机会，并探讨了创建和维持自由形态 AI 群体所涉及的伦理问题和设计挑战。