通过反编译摊销知识进行贝叶斯程序学习
人工智能
2024-06-03 v3 机器学习
软件工程
摘要
DreamCoder 是一个归纳程序合成系统，在解决问题的同时，它通过迭代的醒-睡过程学习简化搜索。搜索的代价通过训练神经搜索策略得以摊销，从而减少搜索广度并有效地将有用信息“编译”为跨任务组合程序解。此外，学习到的程序组件库可用更少的组件压缩和表达已发现的解，从而降低搜索深度。我们提出了一种直接利用神经搜索策略的库学习新方法，有效地将其摊销知识“反编译”以提取相关程序组件。这提供了更强的摊销推断：用于减少搜索广度的摊销知识现也被用于减少搜索深度。我们将该方法与 DreamCoder 集成，并在一系列领域上展示了更快的领域熟练度与改进的泛化能力，尤其在可用示例解较少时表现突出。
引用
@article{arxiv.2306.07856,
title = {Bayesian Program Learning by Decompiling Amortized Knowledge},
author = {Alessandro B. Palmarini and Christopher G. Lucas and N. Siddharth},
journal= {arXiv preprint arXiv:2306.07856},
year = {2024}
}