LightCurve MoE:一种用于高效恒星光变曲线分类的动态稀疏路由混合专家架构
天体物理仪器与方法
2025-07-21 v3 太阳与恒星天体物理
摘要
恒星光变曲线的分类已成为现代时域天文学中的一项关键任务,其受到 Kepler 和 TESS 等大规模巡天数据快速增长的推动。尽管深度学习模型在此领域已取得高准确率,但其计算成本会限制可扩展性。为解决该问题,我们提出 LightCurve MoE,一种将动态稀疏路由与双门控机制相结合的混合专家(MoE)架构,以平衡准确率、效率与鲁棒性。我们的模型包含五个专用专家,每个采用不同的特征提取方法——如小波变换、Gramian 角场和递归图——以捕获光变曲线中的独特模式。双门控机制通过分析频域与时域特征来评估这些专家输出,使模型能自适应地权衡各专家的贡献。在推理过程中,每样本仅使用 Top-k 路由策略激活 5 个专家中的前 3 个,与稠密模型相比计算成本降低 40%,同时保持强劲准确率(96%)。该模型还包含熵正则化及在训练期间保留非激活专家的技术,以确保稳定且有效的学习。通过将稀疏计算与多模态特征融合相结合,LightCurve MoE 为未来如 LSST 和 Global Open Transient Telescope Array (GOTTA) 等大规模测光巡天提供了可扩展解决方案,其中由于每日海量数据,处理效率至关重要。
引用
@article{arxiv.2305.13745,
title = {LightCurve MoE: A Dynamic Sparse Routing Mixture-of-Experts Architecture for Efficient Stellar Light Curve Classification},
author = {Cunshi Wang and Yu Bai and Xinrui Song and Jiacheng Xu and Henggeng Han and Yuyang Li and Xinjie Hu and Huiqin Yang and Jifeng Liu},
journal= {arXiv preprint arXiv:2305.13745},
year = {2025}
}
备注
40 pages, 23 figures