多轮指令对话中的归纳-演绎策略复用
动力系统
2024-04-18 v1
摘要
将大型语言模型(LLM)与人类期望一致，需要高质量的指令对话，这通常需要指令具有多样性和深度。现有方法利用两个LLM相互交互以自动收集：一个模拟用户提出指令，另一个作为系统代理作出响应。然而，这些用户模拟器难以在没有明确指导的情况下建模对话如何提出不同指令的规则，导致指令通用。本文提出显式捕获复杂规则以帮助用户模拟器提出多样且深入的指令。具体而言，我们首先从各种真实指令对话中归續出高层指令策略作为规则。随后，对新给定的对话情境应用不同的可能策略，以提出各种指令。实验结果表明，我们的方法能够生成多样且深入的指令。构建的多轮指令对话在下游聊天模型上优于竞争基线。
引用
@article{arxiv.2404.11094,
title = {Periodic boundary points for simply connected Fatou components of transcendental maps},
author = {Anna Jové},
journal= {arXiv preprint arXiv:2404.11094},
year = {2024}
}