用于稀疏数据填补的时空 Transformer:一种深度学习方法
机器学习
2023-12-05 v1 统计方法学
摘要
环境资源的有效管理与农业的可持续发展高度依赖于准确的土壤湿度数据。然而,诸如 SMAP/Sentinel-1 土壤湿度产品之类的数据集在其时空网格上常常包含缺失值,这构成了重大挑战。本文提出了一种新颖的时空 Transformer 模型(ST-Transformer),专为解决稀疏时空数据集中的缺失值问题而设计,特别聚焦于土壤湿度数据。ST-Transformer 采用多个时空注意力层来捕捉数据中复杂的时空相关性,并可在填补过程中整合额外的时空协变量,从而提升精度。该模型采用自监督方法进行训练,使其能够自主地从观测数据点预测缺失值。通过将模型应用于德州 36×36 km 网格上的 SMAP 1km 土壤湿度数据,展示了其相对于知名填补方法的优越精度。此外,我们在其他数据集上的仿真研究凸显了该模型在各种时空填补任务中的更广泛适用性。
引用
@article{arxiv.2312.00963,
title = {Spatiotemporal Transformer for Imputing Sparse Data: A Deep Learning Approach},
author = {Kehui Yao and Jingyi Huang and Jun Zhu},
journal= {arXiv preprint arXiv:2312.00963},
year = {2023}
}