击中甜点！面向大语言模型的片段级集成
计算与语言
2024-09-30 v1
摘要
集成各种 LLM 以释放其互补潜力并利用其各自优势具有极高的价值。以往的研究通常集中于两种主要范式：样本级集成和词元级集成。样本级集成方法要么选择要么混合完全生成的输出，这阻碍了在生成过程中对输出进行动态修正和增强。另一方面，词元级集成方法通过在每个生成步骤进行细粒度集成来实现实时修正。然而，单个词元携带的信息相当有限，导致每一步的决策并非最优。为了解决这些问题，我们提出了 SweetSpan，一种片段级集成方法，它有效地平衡了实时调整的需求与准确集成决策所需的信息。我们的方法包含两个关键步骤：首先，我们让每个候选模型基于共享前缀独立生成候选片段。其次，我们计算困惑度分数以促进候选模型之间的相互评估，并通过过滤不忠实的分数来实现稳健的片段选择。为了全面评估集成方法，除了标准设置（集成性能最佳的模型）外，我们还提出了一种新的挑战性设置（集成具有显著性能差距的模型），以在更现实的场景中评估模型集成的性能。在各种语言生成任务的标准和挑战性设置下的实验结果证明了，与以往的集成方法相比，我们方法的有效性、稳健性和通用性。
引用
@article{arxiv.2409.18583,
title = {Hit the Sweet Spot! Span-Level Ensemble for Large Language Models},
author = {Yangyifan Xu and Jianghao Chen and Junhong Wu and Jiajun Zhang},
journal= {arXiv preprint arXiv:2409.18583},
year = {2024}
}