混合专家中基于 LLM 的路由：一种面向交易的新框架

深度学习和大型语言模型（LLM）的最新进展促进了混合专家机制在股票投资领域的部署。虽然这些模型展示了有前景的交易表现，但它们通常是单模态的，忽略了其他模态（如文本数据）中可用的丰富信息。此外，传统的基于神经网络的路由器选择机制未能考虑上下文和现实世界的细微差别，导致专家选择欠佳。为了解决这些局限性，我们提出了 LLMoE，一种在 MoE 架构内使用 LLM 作为路由器的新框架。具体而言，我们用 LLM 替换传统的基于神经网络的路由器，利用其广泛的世界知识和推理能力，根据历史价格数据和股票新闻选择专家。这种方法提供了一种更有效且可解释的选择机制。我们在多模态真实世界股票数据集上的实验表明，LLMoE 优于最先进的 MoE 模型和其他深度神经网络方法。此外，LLMoE 的灵活架构允许轻松适应各种下游任务。