神经网络微分方程求解器中中奖彩票 ticket 的可迁移性
机器学习
2023-06-19 v1
摘要
近期工作表明，重正化群理论是描述通过迭代幅值剪枝来剪枝神经网络过程的一个有用框架。本报告正式描述了重正化群理论与迭代幅值剪枝之间的联系，并将先前围绕彩票假设（Lottery Ticket Hypothesis）和弹性彩票假设（Elastic Lottery Hypothesis）的结果推广到用于求解微分方程的哈密顿神经网络。我们为两个哈密顿神经网络找到了彩票 ticket，并展示了两个系统之间的可迁移性，其精度依赖于积分时间。随后从重正化群视角使用相关工具分析了这两个系统的普适性。
引用
@article{arxiv.2306.09863,
title = {Transferability of Winning Lottery Tickets in Neural Network Differential Equation Solvers},
author = {Edward Prideaux-Ghee},
journal= {arXiv preprint arXiv:2306.09863},
year = {2023}
}