GraViT：结合 Vision Transformer 与 MLP-Mixer 的迁移学习用于强引力透镜发现
计算机视觉与模式识别
2025-09-03 v1 星系天体物理
摘要
引力透化为探测暗物质性质提供了强有力的手段，并对推断宇宙学参数至关重要。据预测，时空遗产巡天（LSST）将在未来十年发现 O(10^5) 个引力透镜，这需要自动化的分类器。在本工作中，我们引入了 GraViT，这是一个用于引力透镜检测的 PyTorch 流程，它利用了最先进的 Vision Transformer（ViT）模型和 MLP-Mixer 的广泛预训练。我们通过考察数据质量（来源和样本量）、模型架构（选择和微调）、训练策略（数据增强、归一化和优化）以及集成预测，评估了迁移学习对分类性能的影响。本研究重现了先前神经网络系统比较中的实验，并提供了在该通用测试样本上强引力透镜可探测性的见解。我们使用来自 HOLISMOKES VI 和 SuGOHI X 的数据集对十种架构进行了微调，并以卷积基线为基准进行了对比，同时讨论了复杂度和推理时间分析。
引用
@article{arxiv.2509.00226,
title = {GraViT: Transfer Learning with Vision Transformers and MLP-Mixer for Strong Gravitational Lens Discovery},
author = {René Parlange and Juan C. Cuevas-Tello and Octavio Valenzuela and Omar de J. Cabrera-Rosas and Tomás Verdugo and Anupreeta More and Anton T. Jaelani},
journal= {arXiv preprint arXiv:2509.00226},
year = {2025}
}
备注
Our publicly available fine-tuned models provide a scalable transfer learning solution for gravitational lens finding in LSST. Submitted to MNRAS. Comments welcome