非合作环境中基于 LLM 的多智能体诗歌生成
计算与语言
2024-09-09 v2
摘要
尽管大型语言模型(LLM)在自动诗歌生成方面取得了实质性进展,但生成的诗歌缺乏多样性,且训练过程与人类学习差异巨大。基于诗歌生成系统的学习过程应更具类人性且其输出应更具多样性和新颖性的理念,我们引入了一个基于社会学习的框架,在该框架中,除了合作交互外,我们强调非合作交互以鼓励多样性。我们的实验是首次在非合作环境中尝试使用基于 LLM 的多智能体系统进行诗歌生成,同时采用了基于训练的智能体(GPT-2)和基于提示的智能体(GPT-3 和 GPT-4)。我们基于 96k 首生成诗歌的评估表明,我们的框架有利于基于训练的智能体的诗歌生成过程,具体表现为:1)根据 distinct 和 novel n-grams,多样性增加了 3.0-3.7 个百分点(pp),新颖性增加了 5.6-11.3 pp。来自基于训练的智能体生成的诗歌在词汇、风格和语义上也表现出群体分化。我们框架中的基于提示的智能体同样受益于非合作环境,并且由非同质智能体组成的更加多样化的模型集成有潜力进一步增强多样性,根据我们的实验,多样性增加了 7.0-17.5 pp。然而,基于提示的智能体表现出词汇多样性随时间下降,并且没有表现出社交网络中预期的基于群体的分化。我们的论文主张在诸如自动诗歌生成等创造性任务中实现范式转变,以纳入类似于人类交互的社会学习过程(通过基于 LLM 的智能体建模)。
引用
@article{arxiv.2409.03659,
title = {LLM-based multi-agent poetry generation in non-cooperative environments},
author = {Ran Zhang and Steffen Eger},
journal= {arXiv preprint arXiv:2409.03659},
year = {2024}
}
备注
preprint