语言模型集成中质量-成本优化的双目标ε约束框架
机器学习
2023-12-27 v1 计算与语言
神经与进化计算
摘要
我们提出了一个集成框架，使用多种开源大语言模型（LLM）在保持成本效率的同时实现高响应质量。我们将问题表述为一个双目标优化问题以表示质量-成本权衡，然后引入一个额外的预算约束，将问题简化为一个直接的0/1背包问题。我们通过实验证明，我们的框架在响应质量上优于现有的集成方法，同时显著降低成本。
引用
@article{arxiv.2312.16119,
title = {A bi-objective $\epsilon$-constrained framework for quality-cost optimization in language model ensembles},
author = {Aditi Singla and Aditya Singh and Kanishk Kukreja},
journal= {arXiv preprint arXiv:2312.16119},
year = {2023}
}