自动驾驶中的统计增强、解耦MoE路由与聚合
机器人学
2025-12-09 v1
摘要
自动驾驶场景本质上复杂且多样，对单一深度学习模型有效覆盖所有可能条件（如不同天气、交通密度和道路类型）构成了重大挑战。基于大型模型的专家混合范式提供了一种有前景的解决方案，其中 LM 作为骨干提取潜在特征，而 MoE 作为下游头动态选择和聚合专门专家以适应不同场景。然而，MoE 中的路由和聚合面临内在挑战，包括因路由策略缺陷导致的专家选择不精确，以及因专家聚合效率低下导致的次优预测。为解决这些问题，我们提出了一种由 LM 驱动的统计增强、解耦 MoE 路由与聚合机制（MoE-RAM）。具体而言，一方面，MoE-RAM 通过统计检索机制将 LM 提取的潜在特征与缓存的最相关专家的原型特征进行匹配以增强专家路由；另一方面，MoE-RAM 通过测量专家瞬时特征与 LM 提取的潜在特征之间的统计距离来自适应地重新加权专家在融合中的输出。得益于统计增强的 MoE 路由与聚合之间的协同作用，MoE-RAM 最终提升了预测性能。我们以 AD 语义分割任务为例来评估所提出的 MoE-RAM。在 AD 数据集上的大量实验证明了 MoE-RAM 相对于其他 MoE 基线和传统单模型方法的优越性。
引用
@article{arxiv.2512.06664,
title = {Statistic-Augmented, Decoupled MoE Routing and Aggregating in Autonomous Driving},
author = {Wei-Bin Kou and Guangxu Zhu and Jingreng Lei and Chen Zhang and Yik-Chung Wu and Jianping Wang},
journal= {arXiv preprint arXiv:2512.06664},
year = {2025}
}
备注
9 pages