SymNet：卷积神经网络中的对称滤波器
摘要
对称性普遍存在于自然界与科学中。在图像处理中，用于空间滤波的核具有某种对称性（例如 Sobel 算子、高斯核、拉普拉斯核）。人工前馈神经网络中的卷积层通常对核权重不加任何约束。本文受初级视觉皮层所涉及的过程及常见图像处理技术的启发，提出研究对称性约束在图像分类任务的卷积层中的影响。目标是通过修改反向传播算法中的权重更新，评估在卷积神经网络（CNN）训练过程中对滤波器施加对称约束的可行程度，并评估性能变化。本文的主要假设是，对称约束减少了网络中的自由参数数量，并且能够达到与现代训练方法近乎相同的性能。我们特别处理了以下情形：x/y 轴对称、点反射以及反点反射。性能在四个图像数据库上进行了评估。结果支持以下结论：虽然随机权重为模型提供了更大的自由度，但对称约束在显著减少模型中自由参数数量的同时，提供了相近的性能水平。这种方法在需要整个特征提取过程具有线性相位特性的相位敏感应用中可能很有价值。
引用
@article{arxiv.1906.04252,
title = {SymNet: Symmetrical Filters in Convolutional Neural Networks},
author = {Gregory Dzhezyan and Hubert Cecotti},
journal= {arXiv preprint arXiv:1906.04252},
year = {2019}
}
备注
Copyright 2019 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works