一种用于加速大规模反问题的自编码器压缩方法
数值分析
2023-04-12 v1 机器学习
数值分析
摘要
PDE 约束反问题是当今计算科学中最具挑战且计算需求最大的问题之一。准确计算 PDE 解所需的精细网格引入了海量参数,并需要大规模计算资源(如更多处理器和内存)以合理时间求解此类系统。对于由时间相关 PDE 约束的反问题,常用于高效计算梯度及高阶导数的伴随方法需要求解依赖于每一步前向 PDE 解的时间反演(即伴随 PDE)。这需要在每个时间步存储高维前向解向量,此类过程很快耗尽可用内存资源。已有若干以额外计算换取内存占用降低的方法被提出以缓解内存瓶颈,包括检查点和压缩策略。本文中,我们提出一种近乎理想的 scalable 压缩方法,利用自编码器消除对检查点和大量内存存储的需求,从而减少求解时间与内存需求。我们在一个地球尺度不适定地震反问题上将该方法与检查点及现成压缩方法比较。结果验证了所提自编码器压缩方法在梯度和 Hessian-向量积上预期的近乎理想加速。为凸显该方法实用性,我们将自编码器压缩与数据驱动的主动子空间(DIAS)先验结合,展示 DIAS 方法如何无需检查点和大内存即可经济地扩展至大规模问题。
引用
@article{arxiv.2304.04781,
title = {An autoencoder compression approach for accelerating large-scale inverse problems},
author = {Jonathan Wittmer and Jacob Badger and Hari Sundar and Tan Bui-Thanh},
journal= {arXiv preprint arXiv:2304.04781},
year = {2023}
}