最优时间变量学习中的时间正则化
机器学习
2023-12-07 v2 最优化与控制
摘要
近来,深度神经网络(DNNs)中的最优时间变量学习在arXiv:2204.08528中被提出。在本稿中,我们通过引入一个与离散动力系统中时间范围直接相关的正则化项来扩展该概念。此外,我们提出了一种用于残差神经网络(ResNets)的自适应剪枝方法,该方法在不损害表达力的同时降低网络复杂度,并同时减少训练时间。结果通过将所提概念应用于著名MNIST和Fashion MNIST数据集上的分类任务加以说明。我们的PyTorch代码可在https://github.com/frederikkoehne/time_variable_learning获取。
引用
@article{arxiv.2306.16111,
title = {Time Regularization in Optimal Time Variable Learning},
author = {Evelyn Herberg and Roland Herzog and Frederik Köhne},
journal= {arXiv preprint arXiv:2306.16111},
year = {2023}
}