大语言模型集合：通过困惑度优化进行测试时模型融合
计算与语言
2024-04-18 v1
摘要
通过融合来自多个大语言模型（LLMs）的知识，可以结合其多样化的优势，在给定任务上实现更好的性能。然而，当前的融合方法要么依赖于学习-based 的融合器，导致无法泛化到新的 LLMs；要么未考虑每个 LLMs 对输入理解的程度。本文研究测试时 LLMs 融合，使我们能够在推理过程中利用来自任意指定 LLMs 的知识。我们引入 Pack of LLMs（PackLLM），一种有效的测试时融合方法，利用每个 LLMs 的专长。PackLLM 通过求解确定每个 LLMs 重要性的优化问题，以最小化输入提示的困惑度。首先，我们的简单 PackLLM-sim 变体验证了困惑度是衡量每个 LLMs 专长的可靠指标。其次，我们的 PackLLM-opt 变体通过贪婪算法近似求解困惑度最小化问题。derived 的重要性权重用于在推理时组合 LLMs。我们使用超过 100 个 LLMs 在多样化任务上进行实验。实验结果表明：（i）困惑度是 LLMs 融合的可靠度量标准；（ii）PackLLM 在测试时融合基线上提高了 1.89% 的准确率；（iii）PackLLM 能通过 3.92-11.94% 的准确率提升来利用新的 LLMs 超越基于学习的融合方法。
引用
@article{arxiv.2404.11531,
title = {Pack of LLMs: Model Fusion at Test-Time via Perplexity Optimization},
author = {Costas Mavromatis and Petros Karypis and George Karypis},
journal= {arXiv preprint arXiv:2404.11531},
year = {2024}
}