群等变下采样
机器学习
2021-06-11 v1 机器学习
摘要
下采样以池化或步长卷积的形式用于卷积神经网络(CNNs)中，以减小特征图的空间维度并允许感受野随深度呈指数增长。然而，已知此类下采样操作不像平移等变的卷积那样具有平移等变性。在此，我们首先引入平移等变下采样/上采样层，可用于构建精确的平移等变CNN。然后将这些层推广到平移之外的 general groups，从而提出群等变下采样/上采样。我们利用这些层构建群等变自编码器(GAEs)，从而学习低维等变表示。我们在图像上经验性验证这些表示确实对输入平移和旋转等变，因而能很好地泛化到未见过的位置和方向。我们进一步在学得多对象数据集上以对象为中心表示的模型中使用GAE，并展示相比非等变基线改进的数据效率与分解能力。
引用
@article{arxiv.2106.05886,
title = {Group Equivariant Subsampling},
author = {Jin Xu and Hyunjik Kim and Tom Rainforth and Yee Whye Teh},
journal= {arXiv preprint arXiv:2106.05886},
year = {2021}
}