帮我写首诗：以指令微调作为协作诗歌写作的载体
计算与语言
2022-10-26 v1
摘要
近期在训练大语言模型（LLMs）遵循自然语言指令方面的工作，为自然语言界面设计开辟了令人振奋的机遇。基于LLMs在计算机辅助创作领域的先前成功，我们旨在研究LLMs能否通过协作提升用户生成内容的质量。我们提出CoPoet，一个协作诗歌写作系统。与自动补全用户文本不同，CoPoet由用户指令控制，这些指令指定所需文本的属性，例如“写一句关于‘爱’的话”或“写一句以‘飞’结尾的话”。我们系统的核心组件是一个在多样化诗歌写作指令集上微调的语言模型。我们的模型不仅与公开可用的指令训练LLM（InstructGPT）具有竞争力，还能够满足未见的组合式指令。一项由15名合格众包工作者参与的研究表明，用户借助CoPoet成功写出了涵盖从君主制到气候变化等多样主题的诗作。此外，第三方评估者更偏好协作写成的诗作，而非无系统辅助写成的诗作。
引用
@article{arxiv.2210.13669,
title = {Help me write a poem: Instruction Tuning as a Vehicle for Collaborative Poetry Writing},
author = {Tuhin Chakrabarty and Vishakh Padmakumar and He He},
journal= {arXiv preprint arXiv:2210.13669},
year = {2022}
}
备注
To appear at EMNLP 2022