LLM-TOPLA：基于最大化多样性的高效LLM集合
计算与语言
2024-10-08 v1 机器学习
摘要
在训练或推理期间组合大型语言模型（LLM）已显示出比单个组件LLM更大的性能提升。本文提出LLM-TOPLA，这是一种基于最大化多样性的LLM集合方法，具有三个独特特性：（i）我们引入了焦点多样性指标，用于捕捉集合中各组件LLM之间的多样性-性能相关性。（ii）我们开发了一种多样性优化的集合修剪算法，从由N个基准LLM组成的池中筛选出top-k子集合。我们的修剪方法会推荐规模为S的顶级性能LLM子集合，通常远小于N。（iii）我们利用一种学习型集合方法为每个提示查询生成新的输出，该方法学习检测并解决集合中所有组件LLM之间的输出不一致。对四个不同基准进行广泛评估显示，LLM-TOPLA在最佳LLM集合方法（如Mixtral）之上取得了显著性能提升：（i）在受限解集问题中，LLM-TOPLA在MMLU上的准确率比最佳表现型集合（Mixtral）高出2.2%，在GSM8k上的准确率比最佳LLM集合（MoreAgent）高出2.1%。（ii）在生成式任务中，LLM-TOPLA在SearchQA上的F1分数比顶级两位表现者（Llama70b/Mixtral）高出3.9倍，在XSum上的ROUGE-1分数提升超过38分。我们的代码和数据集（包含8个现代LLM在4个基准上的输出）可在https://github.com/git-disl/llm-topla 查阅。
引用
@article{arxiv.2410.03953,
title = {LLM-TOPLA: Efficient LLM Ensemble by Maximising Diversity},
author = {Selim Furkan Tekin and Fatih Ilhan and Tiansheng Huang and Sihao Hu and Ling Liu},
journal= {arXiv preprint arXiv:2410.03953},
year = {2024}
}