Plant 'n' Seek：你能找到中奖票吗？

彩票假说引发了剪枝算法的快速发展，旨在降低深度学习在训练与模型部署中的计算成本。目前，此类算法主要在图像数据上评估，而我们缺乏真实信息，因而难以理解稀疏彩票票可能达到的程度。为填补这一空白，我们开发了一个框架，允许我们在随机初始化的神经网络中植入并隐藏具有期望性质的中奖票。为分析最先进剪枝识别极高稀疏度票的能力，我们设计并隐藏了解决四个挑战性任务的中奖票。在大量实验中，我们观察到与图像研究中相似的趋势，表明我们的框架能为现实问题提供可迁移的见解。此外，我们现在能超越这些相对趋势，突出当前剪枝方法的局限性。基于我们的结果，我们得出结论：当前在票稀疏度上的局限很可能源于算法而非根本性质。我们预期与植入票的对比将促进高效剪枝算法的未来发展。