关于自编码器的可解释性与恰当潜空间分解
流体动力学
2022-12-05 v2 机器学习
摘要
湍流在统计平稳状态下往往只占据相空间的一部分。从动力系统的观点看，这一部分即为吸引子。对湍流吸引子的认知至少有两个用途：(i) 我们可以获得对湍流物理本质的洞察（吸引子的形状与几何结构为何？），以及 (ii) 它给出了精确描述湍流动力学所需的最小自由度个数。自编码器能够计算最优潜空间，即动力学的一种低阶表示。若训练得当且设计正确，自编码器可以学习到湍流吸引子的一种近似，正如 Doan、Racca 与 Magri（2022）所示。本文从理论层面解释自编码器的变换。首先，我们指出潜空间是一个具有曲线坐标的弯曲流形，可用黎曼几何的简单工具加以分析。其次，我们刻画了潜空间的几何性质。我们从数学上推导了度量张量，从而给出该流形的数学描述。第三，我们提出一种方法——恰当潜空间分解（proper latent decomposition, PLD）——将湍流的正确正交分解推广到自编码器潜空间上。该分解在弯曲潜空间中寻找主导方向。这一理论工作为解释自编码器及建立湍流降阶模型开辟了计算上的可能性。
引用
@article{arxiv.2211.08345,
title = {On interpretability and proper latent decomposition of autoencoders},
author = {Luca Magri and Anh Khoa Doan},
journal= {arXiv preprint arXiv:2211.08345},
year = {2022}
}
备注
9 pages, 2 figures, Proceedings of the Summer Program, Center for Turbulence Research, Stanford University