中文

MOPO:面向情感文本生成的多目标提示优化

计算与语言 2024-12-18 v1

摘要

情感的表达方式取决于语境和领域。例如,在X(原Twitter)上,作者可能简单地使用标签#anger,而在新闻标题中,情感通常以更礼貌、间接的方式书写。为了使条件文本生成模型能够生成符合领域的情感色彩文本,用户需要有一个参数来选择合适的情感表达方式。为此,我们引入了MOPO,一种多目标提示优化方法。MOPO根据多个目标(这里对应于为不同领域训练的情感分类器分配的输出概率)优化提示。与单目标优化相比,MOPO输出一组提示,每个提示对多个目标具有不同的权重。然后用户可以为他们的上下文选择最合适的提示。我们使用由多个领域特定情感分类器确定的三个目标来评估MOPO。与单目标优化相比,MOPO在所有目标上的性能提高了最多15个百分点,而任何单个目标的损失最小(1-2个百分点)。这些微小的性能损失被跨多个目标的更广泛泛化所抵消——这是单目标优化无法实现的。此外,MOPO通过同时优化多个目标减少了计算需求,消除了每个目标的单独优化过程。

关键词

引用

@article{arxiv.2412.12948,
  title  = {MOPO: Multi-Objective Prompt Optimization for Affective Text Generation},
  author = {Yarik Menchaca Resendiz and Roman Klinger},
  journal= {arXiv preprint arXiv:2412.12948},
  year   = {2024}
}

备注

accepted to COLING 2025