层次化实例条件混合专家 (HI-MoE)：用于目标检测的对象专家架构
机器学习
2026-04-07 v1
摘要
混合专家 (MoE) 架构通过为每个输入激活仅部分模型参数来实现条件计算。虽然稀疏路由在语言模型中效果极佳，且在视觉任务中也显示出前景，但大多数视觉 MoE 方法仅在图像或 patch 级别进行路由。这种粒度与目标检测的需求不符——后者的推理基本单位是对应候选实例的对象查询。我们提出层次化实例条件混合专家 (HI-MoE)，一种基于 DETR 风格的检测架构，在两个阶段内进行路由：首先，轻量级场景路由器选择一组与场景一致的专家子集；其次，实例路由器为每个对象查询分配少数专家。此设计旨在保持稀疏计算，同时更好地匹配检测中异构的、以实例为中心的结构。在本稿的当前草案中，实验集中在 COCO 数据集上，并对 LVIS 上的初步专门化进行分析。在这些设置下，HI-MoE 在密集 DINO 基线和更简单的数据标记级别或仅实例路由变体之上均取得改进，尤其在小目标上表现尤为突出。我们还提供了专家专门化模式的初始可视化。我们以旨在支持进一步实验验证的形式呈现方法、消融实验及当前局限性。
引用
@article{arxiv.2604.04908,
title = {HI-MoE: Hierarchical Instance-Conditioned Mixture-of-Experts for Object Detection},
author = {Vadim Vashkelis and Natalia Trukhina},
journal= {arXiv preprint arXiv:2604.04908},
year = {2026}
}