学习具有循环群结构的展开网络
机器学习
2022-11-18 v1
摘要
深度神经网络缺乏融入领域知识的直接途径，并素以黑箱著称。先前工作试图通过数据增强将领域知识隐式注入架构。基于等变神经网络的最新进展，我们提出显式编码领域知识（具体为关于旋转的等变性）的网络。利用展开架构——这一源于稀疏编码且具理论保证的丰富框架，我们给出了具有稀疏激活的可解释网络。等变展开网络仅以基线模型参数量的一小部分，便在（旋转后的）MNIST与CIFAR-10上展现出优于基线的竞争力。
引用
@article{arxiv.2211.09238,
title = {Learning unfolded networks with a cyclic group structure},
author = {Emmanouil Theodosis and Demba Ba},
journal= {arXiv preprint arXiv:2211.09238},
year = {2022}
}
备注
Accepted as an extended abstract in NeurIPS Workshop on Symmetry and Geometry in Neural Representations