输入凸梯度网络
机器学习
2021-11-25 v1 机器学习
摘要
凸函数的梯度是非平凡向量场的极具表达力的模型。例如,Brenier定理指出,在平方距离下欧氏空间上任意两个测度之间的最优传输映射由凸梯度实现,这是近期生成流模型所利用的关键洞见。在本文中,我们研究如何通过积分由神经网络参数化的雅可比-向量积来建模凸梯度,我们称之为输入凸梯度网络(ICGN)。我们从理论上研究ICGN,并将其与对输入凸神经网络(ICNN)取梯度进行比较,通过实验证明单层ICGN比单层ICNN能更好地拟合一个玩具示例。最后,我们探讨向更深网络的扩展以及与黎曼几何中构造的联系。
引用
@article{arxiv.2111.12187,
title = {Input Convex Gradient Networks},
author = {Jack Richter-Powell and Jonathan Lorraine and Brandon Amos},
journal= {arXiv preprint arXiv:2111.12187},
year = {2021}
}
备注
Accepted to NeurIPS 2021 Optimal Transport and Machine Learning Workshop https://otml2021.github.io