SeisCLIP：基于多模态数据预训练用于多用途地震特征提取的地震学基础模型
地球物理
2023-09-06 v1 人工智能
机器学习
摘要
在地震学各个领域中，为特定任务训练专门的深度学习模型是常见做法。然而，这种方法存在两个局限：某些任务的标注数据不足，以及跨区域的泛化能力有限。为应对这些挑战，我们开发了 SeisCLIP，一种通过多模态数据对比学习训练的地震学基础模型。它由一个用于从时频地震谱中提取关键特征的 transformer 编码器，以及一个用于整合同一事件的震相与震源信息的 MLP 编码器组成。这些编码器在大规模数据集上联合预训练，随后将谱编码器在较小数据集上针对各种下游任务进行微调。值得注意的是，在使用来自不同地区的不同数据集时，SeisCLIP 在事件分类、定位以及震源机制分析任务中的表现均优于基线方法。总之，SeisCLIP 作为地震学领域的基础模型具有重要潜力，为基于基础模型的地震学研究开辟了创新方向。
引用
@article{arxiv.2309.02320,
title = {SeisCLIP: A seismology foundation model pre-trained by multi-modal data for multi-purpose seismic feature extraction},
author = {Xu Si and Xinming Wu and Hanlin Sheng and Jun Zhu and Zefeng Li},
journal= {arXiv preprint arXiv:2309.02320},
year = {2023}
}
备注
27 pages, 9 figures, 4 tables