McTorch:一个用于深度学习的流形优化库
机器学习
2018-10-05 v2 人工智能
机器学习
摘要
本文中我们介绍McTorch,一个扩展PyTorch的用于深度学习的流形优化库。它旨在降低希望在深度学习应用中使用流形约束(即参数被约束于流形上)的用户门槛。此类约束包括流行的正交性与秩约束,且最近已用于深度学习的若干应用中。McTorch遵循PyTorch的架构并解耦流形定义与优化器,即一旦添加新的流形,它便可与任何现有优化器使用,反之亦然。McTorch可在 https://github.com/mctorch 获取。
引用
@article{arxiv.1810.01811,
title = {McTorch, a manifold optimization library for deep learning},
author = {Mayank Meghwanshi and Pratik Jawanpuria and Anoop Kunchukuttan and Hiroyuki Kasai and Bamdev Mishra},
journal= {arXiv preprint arXiv:1810.01811},
year = {2018}
}