持续学习：应用与前行之路
机器学习
2024-04-26 v3 人工智能
计算机视觉与模式识别
摘要
持续学习是机器学习的一个子领域，旨在使机器学习模型通过积累知识而不遗忘过去所学，持续在新数据上学习。本工作中，我们退一步追问：“为何首先应关注持续学习？”。我们通过审视四大机器学习会议近期发表的持续学习论文奠定基调，表明内存受限设定主导了该领域。随后，我们讨论机器学习中的五个开放问题，尽管初看似乎与持续学习无关，我们证明持续学习必将是其解决方案的一部分。这些问题是模型编辑、个性化与专门化、设备端学习、更快的（重新）训练以及强化学习。最后，通过比较这些未解问题的期望与持续学习中当前假设，我们强调并讨论了持续学习研究的四个未来方向。我们希望本工作提供关于持续学习未来的有趣视角，同时展现其潜在价值及我们为使其成功须遵循的路径。本工作是作者们于 2023 年 3 月 Dagstuhl 深度持续学习研讨会上诸多讨论的成果。
引用
@article{arxiv.2311.11908,
title = {Continual Learning: Applications and the Road Forward},
author = {Eli Verwimp and Rahaf Aljundi and Shai Ben-David and Matthias Bethge and Andrea Cossu and Alexander Gepperth and Tyler L. Hayes and Eyke Hüllermeier and Christopher Kanan and Dhireesha Kudithipudi and Christoph H. Lampert and Martin Mundt and Razvan Pascanu and Adrian Popescu and Andreas S. Tolias and Joost van de Weijer and Bing Liu and Vincenzo Lomonaco and Tinne Tuytelaars and Gido M. van de Ven},
journal= {arXiv preprint arXiv:2311.11908},
year = {2024}
}