用梯度下降训练形态学神经网络:一些理论见解
计算机视觉与模式识别
2024-07-02 v2 机器学习
机器学习
摘要
形态学神经网络或层可以成为推动数学形态学发展的强大工具,无论是在完全格算子表示等理论方面,还是在图像处理流程的开发中。然而,当包含超过少数几个形态学层时,至少在使用基于梯度下降优化算法的主流机器学习框架中,这些架构往往难以训练。在 Bouligand 导数这一非光滑优化概念的启发下,本文研究了基于微分的方法和反向传播应用于形态学网络的潜力与局限性。我们提供了一些见解和初步的理论指导,特别是关于初始化和学习率方面的内容。
引用
@article{arxiv.2403.12975,
title = {Training morphological neural networks with gradient descent: some theoretical insights},
author = {Samy Blusseau},
journal= {arXiv preprint arXiv:2403.12975},
year = {2024}
}