基于 Transformer 的天文时间序列不确定性估计模型用于检测误分类实例
天体物理仪器与方法
2024-11-05 v1
摘要
本文提出一个用于变星光变曲线深度注意力分类器中估计和评估不确定性的框架。我们实现了三种技术——深度集成（DE）、蒙特卡洛 Dropout（MCD）和分层随机注意力（HSA），并在三个天文巡天数据集上训练模型进行评估。结果表明，MCD 和 HSA 提供了与 DE 具有竞争力且计算成本更低的替代方案，允许训练具有不确定性估计能力的 Transformer 模型以处理大规模光变曲线数据集。我们得出结论，不确定性估计的质量使用 ROC AUC 指标进行评估。
引用
@article{arxiv.2411.01363,
title = {Transformer-Based Astronomical Time Series Model with Uncertainty Estimation for Detecting Misclassified Instances},
author = {Martina Cádiz-Leyton and Guillermo Cabrera-Vives and Pavlos Protopapas and Daniel Moreno-Cartagena and Cristobal Donoso-Oliva},
journal= {arXiv preprint arXiv:2411.01363},
year = {2024}
}
备注
Accepted for LatinX in AI (LXAI) workshop at the 41 st International Conference on Machine Learning (ICML), Vienna, Austria. PMLR 235, 2024