利用神经符号生成模型进行分布外绘制
机器学习
2022-06-28 v2 人工智能
计算机视觉与模式识别
神经与进化计算
符号计算
摘要
从感知输入中学习通用表征是人类智能的标志。例如,人们可以通过将这些任务刻画为同一通用底层过程——不同形式笔触的组合排列——的不同实例,来写出数字或字符,甚至画涂鸦。关键的是,由于这一共享过程,学会一项任务(如书写)意味着对另一项任务(如绘画)具备合理的胜任能力。我们提出 Drawing out of Distribution(DooD),一种基于笔触绘制的神经符号生成模型,可学习此类通用表征。与先前工作不同,DooD 直接作用于图像,无需监督或昂贵的测试时推断,并利用符号笔触模型进行无监督摊销推断,从而更好地实现可解释性与泛化。我们在跨数据与跨任务的泛化能力上评估 DooD。我们首先在五个不同数据集上从一数据集(如 MNIST)到另一数据集(如 Quickdraw)进行零样本迁移,表明 DooD 明显优于不同基线。对所学表征的分析进一步凸显了采用符号笔触模型的益处。我们随后采用 Omniglot 挑战任务的一个子集,评估其生成新样本(无条件与有条件)及执行单样本分类的能力,显示 DooD 达到了最先进水平。综上,我们证明 DooD 确实捕获了跨数据与任务的通用表征,并向构建通用且鲁棒的概念学习系统迈进了一步。
引用
@article{arxiv.2206.01829,
title = {Drawing out of Distribution with Neuro-Symbolic Generative Models},
author = {Yichao Liang and Joshua B. Tenenbaum and Tuan Anh Le and N. Siddharth},
journal= {arXiv preprint arXiv:2206.01829},
year = {2022}
}
备注
Preprint. Under review. 25 pages