利用记忆化醒睡算法学习生成程序的元学习
人工智能
2020-07-24 v2 机器学习
摘要
我们研究一类神经符号生成模型，其中神经网络既用于推断，也作为符号化数据生成程序的先验。作为生成模型，这些程序以天然可解释的形式捕捉组合结构。为应对将程序归纳作为学习“内循环”的挑战，我们提出了记忆化醒睡（MWS）算法，其通过显式存储并复用推断网络在训练过程中发现的最佳程序来扩展醒睡（Wake-Sleep）算法。我们使用MWS在三个具有挑战性的领域中学习准确且可解释的模型：基于笔画的字符建模、元胞自动机，以及一个真实世界字符串概念的新颖少样本学习数据集。
引用
@article{arxiv.2007.03132,
title = {Learning to learn generative programs with Memoised Wake-Sleep},
author = {Luke B. Hewitt and Tuan Anh Le and Joshua B. Tenenbaum},
journal= {arXiv preprint arXiv:2007.03132},
year = {2020}
}