生成物理一致的卫星影像用于气候可视化
计算机视觉与模式识别
2024-10-22 v5 机器学习
图像与视频处理
摘要
深度生成视觉模型如今能够合成逼真的卫星影像。但是,幻觉的可能性阻碍了它们在风险敏感应用中的采用,例如生成用于沟通气候变化的材料。为说明此问题,我们训练了一个生成对抗网络(pix2pixHD)来创建未来洪水和再造林事件的合成卫星影像。我们发现纯深度学习模型可以生成照片级真实的洪水可视化,但会在不易受洪水影响的地点产生幻觉洪水。为解决此问题,我们提出在基于物理的洪水模型的分割图上对生成视觉模型进行条件化与评估。我们表明,我们的物理条件模型优于纯深度学习模型和手工基线。我们评估了我们的方法对不同遥感数据和不同气候相关事件(再造林)的泛化能力。我们发布了我们的代码和数据集,其中包含第三个案例研究(北极海冰融化)的数据,以及超过 30,000 个标注的高清图像三元组——或等价于 128x128 像素的 550 万张图像——用于地球观测中分割引导的图像到图像翻译。代码和数据可在 \url{https://github.com/blutjens/eie-earth-public} 获取。
引用
@article{arxiv.2104.04785,
title = {Generating Physically-Consistent Satellite Imagery for Climate Visualizations},
author = {Björn Lütjens and Brandon Leshchinskiy and Océane Boulais and Farrukh Chishtie and Natalia Díaz-Rodríguez and Margaux Masson-Forsythe and Ana Mata-Payerro and Christian Requena-Mesa and Aruna Sankaranarayanan and Aaron Piña and Yarin Gal and Chedy Raïssi and Alexander Lavin and Dava Newman},
journal= {arXiv preprint arXiv:2104.04785},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2010.08103