丛网络：纤维丛、局部平凡化与探索多对一映射的生成式方法
机器学习
2022-02-28 v3 人工智能
几何拓扑
摘要
多对一映射在机器学习中无处不在，从将大量不同图像归属于“猫”这一概念的图像识别模型，到将一系列不同时间序列归属于单个标量回归值的时间序列预测模型。虽然此类模型的主要用途自然是为每个输入关联正确的输出，但在许多问题中，能够探索、理解并从一个模型的纤维中采样也很有用，纤维是指对于输出空间中固定的 y，满足 f(x) = y 的输入值 x 的集合。在本文中，我们指出流行的生成架构并不适合此类任务。受此启发，我们基于（微分）拓扑中的纤维丛概念，引入了一种新颖的生成架构——Bundle Network（丛网络）。BundleNet 利用了局部平凡化的思想，即一个空间可以在局部分解为乘积空间，从而清晰地编码映射的多对一性质。通过在 BundleNet 中强制这种分解并利用最先进的可逆组件，对网络纤维的研究变得自然。
引用
@article{arxiv.2110.06983,
title = {Bundle Networks: Fiber Bundles, Local Trivializations, and a Generative Approach to Exploring Many-to-one Maps},
author = {Nico Courts and Henry Kvinge},
journal= {arXiv preprint arXiv:2110.06983},
year = {2022}
}
备注
Accepted for publication at ICLR 2022; 19 pages