MoA是你所需要的：基于代理混合的LLM研究团队构建
计算金融
2024-09-17 v2
摘要
大型语言模型( LLM)在金融领域的研究尤其复杂，因为文献中提出的方法方法之多。检索增强生成(RAG)因其内在的可靠性和数据源的可变性，已成为该领域的领先方法之一。本文引入一种称为混合代理(MoA)的RAG框架，并展示其作为实用、可定制且高效方法构建RAG应用的可行性。MoA本质上是一个由个体定制的小型语言模型( Hoffmann等，2022)组成的分层网络，这些模型协作来回答问题和提取信息。虽然存在许多理论命题用于这种架构，甚至有少数库用于在实践中应用该结构，但鲜有文档研究评估了该框架在考虑实际业务约束（如成本和速度）时的潜力。我们发现，由小型语言模型( Hoffmann等，2022)组成的MoA框架在各个金融领域中产生更高质量和更可靠的响应，同时保持低成本。
引用
@article{arxiv.2409.07487,
title = {MoA is All You Need: Building LLM Research Team using Mixture of Agents},
author = {Sandy Chen and Leqi Zeng and Abhinav Raghunathan and Flora Huang and Terrence C. Kim},
journal= {arXiv preprint arXiv:2409.07487},
year = {2024}
}