StarNet:基于确定性线性方程组的无梯度深度生成模型训练
机器学习
2021-01-08 v1 人工智能
机器学习
摘要
本文提出了一种仅基于求解确定性线性方程组来训练深度生成模型的方法。采用该方法的网络称为 StarNet,具有以下理想性质:1)训练无需梯度,因为线性方程组的解不是随机的;2)在求解关于潜码及模型参数的线性方程组时高度可扩展;3)为每一层内潜码与网络参数的估计提供了理想的最小二乘界。
引用
@article{arxiv.2101.00574,
title = {StarNet: Gradient-free Training of Deep Generative Models using Determined System of Linear Equations},
author = {Amir Zadeh and Santiago Benoit and Louis-Philippe Morency},
journal= {arXiv preprint arXiv:2101.00574},
year = {2021}
}
备注
Work in progress at CMU