MME：基于随机行走 Transformer 门控的网格专家混合模型
统计理论
2026-03-10 v2 统计理论
摘要
近年来，提出了各种方法用于网格分析，每种方法都有其独特优势，往往在不同对象类别上表现卓著。我们提出一种新的混合专家（MoE）框架，旨在整合这些不同方法的互补优势。我们提出一种新的门控架构，以鼓励每个专家专注于其擅长的类别。我们的设计受两个关键思想驱动：（1）网格表面的随机行走有效地捕获各个专家关注的区域，（2）注意力机制使门控能够聚焦于每个专家决策最具信息性的区域。为进一步提升性能，我们引入一种动态损失平衡方案，在训练过程中调整多样性损失与相似性损失之间的权衡，其中多样性损失促进专家专精，相似性损失促进专家之间的知识共享。我们的框架在网格分类、检索和语义分割任务中实现了最先进的结果。我们的代码已公开于：https://github.com/amirbelder/MME-Mixture-of-Mesh-Experts。
关键词
引用
@article{arxiv.2603.00827,
title = {Minimax convergence rates of a binary plug-in type classification procedure for time-homogeneous SDE paths under low-noise conditions},
author = {Eddy Michel Ella-Mintsa},
journal= {arXiv preprint arXiv:2603.00827},
year = {2026}
}
备注
55 pages