MoMoE：面向金融情感分析的混合专家智能体模型
计算工程、金融与科学
2025-11-19 v1
摘要
我们提出一种新方法，称为混合混合专家 (Mixture of Mixture of Expert, MoMoE)，将混合专家 (Mixture-of-Experts, MoE) 架构的优势与协作多智能体框架相结合。通过修改 LLaMA 3.1 8B 架构，在构成分层协作结构的每个智能体中嵌入 MoE 层，我们创建了一个由专门专家智能体组成的集合，这些智能体不断迭代地细化其输出。每个智能体在其最终注意力块中利用 MoE 层，实现任务分解的同时保持计算可行性。这种混合方法通过模型架构和智能体协作层两方面创建了专门的通道。实验结果表明，在多个语言理解与生成基准测试中均实现了显著提升，凸显了在神经网络和智能体水平上集成专家路由的协同优势。
引用
@article{arxiv.2511.13983,
title = {MoMoE: A Mixture of Expert Agent Model for Financial Sentiment Analysis},
author = {Peng Shu and Junhao Chen and Zhengliang Liu and Hanqi Jiang and Yi Pan and Khanh Nhu Nguyen and Zihao Wu and Huaqin Zhao and Yiwei Li and Enze Shi and ShaoChen Xu},
journal= {arXiv preprint arXiv:2511.13983},
year = {2025}
}