知识积累：学习的普遍模式
人工智能
2021-08-10 v1
摘要
人工智能已发展数十年并取得巨大进展。近来，深度学习展现出解决诸多现实世界问题的能力，例如图像分类与检测、自然语言处理、下围棋。理论上讲，人工神经网络可拟合任意函数，强化学习可从任意延迟奖励中学习。但在解决现实任务时，我们仍须耗费大量精力调整算法以适配任务独有特征。本文提出，造成该现象的原因在于自然的稀疏反馈特性，且单一算法无论怎样改进，只能解决稠密反馈任务或特定的稀疏反馈任务。本文首先分析稀疏反馈如何影响算法性能，进而提出一种解释如何积累知识以解决稀疏反馈问题的模式。
引用
@article{arxiv.2108.03988,
title = {Knowledge accumulating: The general pattern of learning},
author = {Zhuoran Xu and Hao Liu},
journal= {arXiv preprint arXiv:2108.03988},
year = {2021}
}