MAX: 用于地质学调查的 X射线荧光掩码自编码器
机器学习
2025-09-11 v1
摘要
预训练基础模型已成为深度学习方法的事实程序，但其应用在地质学研究中仍有限，由于模型需要可迁移性以突破数据稀缺的束缚。本文针对 X射线荧光 (XRF)扫描数据，作为广泛科学钻探项目中的标准高分辨率测量，提出了一种可扩展的自监督学习器，称为掩码自编码器用于 XRF 光谱 (MAX)，用于预训练覆盖太平洋和南大洋多个地区地质记录的基础模型。在预训练中，我们发现对输入光谱掩盖 50% 的比例可产生非平凡且有意义的自监督任务。对于下游任务，我们选择将 XRF 光谱定量分为两个高成本地球化学测量：CaCO 和总有机碳，因为它们在理解古海洋碳循环方面至关重要。我们的结果表明，MAX 只需三分之一的数据，即可在定量精度上超越无预训练模型。此外，模型在新材料的零样本测试中，泛化能力提高了 60%以上，解释性进一步确保了其鲁棒性。因此，我们的方法为通过利用自监督基础模型和快速获取的 XRF扫描数据，克服地质学发现中的数据稀缺问题提供了一条有前景的道路。
引用
@article{arxiv.2410.12330,
title = {MAX: Masked Autoencoder for X-ray Fluorescence in Geological Investigation},
author = {An-Sheng Lee and Yu-Wen Pao and Hsuan-Tien Lin and Sofia Ya Hsuan Liou},
journal= {arXiv preprint arXiv:2410.12330},
year = {2025}
}