基于注意力平面归一化流的变分自编码器的物理集成生成建模

物理集成生成建模是一类混合或灰盒建模，其中我们用支配数据分布的物理知识来增强数据驱动模型。物理知识的使用允许生成模型以受控方式产生输出，使得输出通过构造符合物理定律。它赋予了改进的泛化能力，能够外推到训练分布之外，并且由于模型部分基于坚实的领域知识，也提高了可解释性。在这项工作中，我们旨在提高物理集成生成模型中重建的保真度和对噪声的鲁棒性。为此，我们使用变分自编码器作为生成模型。为了改善解码器的重建结果，我们提出使用平面归一化流来学习物理和可训练数据驱动组件的潜在后验分布。基于归一化流的后验分布利用了数据分布固有的动态结构，因此学习到的模型更接近真实的数据分布。为了提高生成模型对注入噪声的鲁棒性，我们提出了对基于归一化流的VAE的编码器部分的修改。我们设计了编码器，将基于缩放点积注意力的上下文信息纳入有噪声的潜在向量中，这将减轻噪声对潜在向量的不利影响，并使模型更加鲁棒。我们在人体运动数据集[33]上进行了实证评估，结果验证了我们提出的模型在改善重建质量和对注入噪声的鲁棒性方面的有效性。