做好最佳选择并获得足够休息进行持续学习

根据遗忘曲线理论，我们可以通过学习大量数据并获得充足的休息来增强记忆保持。这意味着，要有效地保持新知识，必须彻底学习它并确保足够的休息，使我们的大脑能够在不忘记的情况下记住。该理论的主要要点是，在再次学习相同数据之前，需要充足的休息才能有效学习大量数据。人类长期记忆保持的这一方面可以有效用于神经网络的持续学习。保持新知识长期不发生灾难性遗忘是持续学习的关键问题。因此，基于Ebbinghaus理论，我们提出了视图-批次模型，通过调整学习计划来优化对重新训练相同样本的回顾间隔。提出的视图-批次模型允许网络在足够长度的回顾间隔内从相同样本中获得足够的休息来学习大量知识。为此，我们特别提出了两种方法：1）保证最优回顾间隔的重放方法，和2）从单个训练样本中获取大量知识的自监督学习。我们经验性地表明，这些方法与遗忘曲线理论一致，可以增强长期记忆。在我们的实验中，我们还展示了该方法在各种协议和情景下显著改进了许多最先进的持续学习方法。我们在https://github.com/hankyul2/ViewBatchModel上开源此项目。