打破端侧训练内存墙：系统性综述

端侧训练已成为机器学习中日益流行的方法，使模型能够直接在移动与边缘设备上训练。然而，该领域的一个主要挑战是这些设备上可用的内存有限，这会严重限制可训练模型的大小与复杂度。在本系统性综述中，我们旨在探索打破端侧训练内存墙的当前最先进技术，重点关注能够使得在资源受限设备上训练更大且更复杂模型的方法。具体而言，我们首先分析导致端侧训练中所遇内存墙现象的关键因素。随后，我们给出关于端侧训练的详尽文献综述，其致力于解决内存限制问题。最后，我们总结端侧训练并指出未来研究的开放问题。通过全面概述这些技术及其在打破内存墙方面的有效性，我们希望能帮助该领域的研究人员与从业者把握快速演进的端侧训练格局。