LU-Net：基于矩阵分解的可逆神经网络
机器学习
2023-02-22 v1 神经与进化计算
摘要
LU-Net 是一种简单快速的可逆神经网络(INN)架构，基于二次权矩阵 的分解，其中 为对角线上元素为 1 的下三角矩阵， 为上三角矩阵。我们不是学习一个完全填充的矩阵 ，而是分别学习 与 。若与可逆激活函数结合，只要 的对角元素非零，此类层便可轻易求逆。并且，此类层雅可比矩阵行列式的计算代价很低。因此，LU 架构可通过变量替换公式实现似然的廉价计算，并可依最大似然原理训练。在我们的数值实验中，我们在若干学术数据集上将 LU-net 架构作为生成模型进行测试。我们还从性能、训练以及运行时间方面与常规可逆神经网络进行了详细比较。
引用
@article{arxiv.2302.10524,
title = {LU-Net: Invertible Neural Networks Based on Matrix Factorization},
author = {Robin Chan and Sarina Penquitt and Hanno Gottschalk},
journal= {arXiv preprint arXiv:2302.10524},
year = {2023}
}