随机深度网络
机器学习
2019-02-21 v2 机器学习
摘要
机器学习正日益面向这样的领域：输入数据无法由单一向量准确描述，但可使用随机向量（即概率测度或更简单地说是基数可变的點云）这一更灵活的概念来建模。然而，在测度上使用深度架构带来了许多挑战性问题。事实上，深度架构最初设计用于处理定长向量，或借助递归机制处理有序序列。与之形成鲜明对比的是，测度描述数量可变、带权且无序的观测。我们在本工作中提出一种深度框架，旨在处理测度的关键方面，即置换不变性、权重与基数的变化。由此流程导出的架构可以 (i) 将测度映射为测度——利用推前算子的概念；(ii) 通过积分步骤弥合测度与欧氏空间之间的鸿沟。这使得设计判别网络（对输入测度分类或降维）、生成架构（合成测度）和递归流程（预测测度动态）成为可能。我们提供了对这些构建模块的理论分析，回顾了我们架构的逼近能力与对扰动的鲁棒性，并在多种判别与生成任务上进行了测试。
引用
@article{arxiv.1811.07429,
title = {Stochastic Deep Networks},
author = {Gwendoline de Bie and Gabriel Peyré and Marco Cuturi},
journal= {arXiv preprint arXiv:1811.07429},
year = {2019}
}