层次组合特征学习
机器学习
2017-10-27 v2 人工智能
机器学习
摘要
我们提出层次组合网络（HCN），一种有向生成模型，能够在无监督情况下发现并解耦一组二值图像的构建块。这些构建块是二值特征，按层次定义为下一层某些特征以特定方式组合而成。总体上，HCN类似于带池化的sigmoid信念网络。HCN中的推断与学习极具挑战性，现有的变分近似不能令人满意。本工作的主要贡献是表明二者均可使用具有特定调度的最大积消息传递（MPMP）来解决（无需EM）。此外，将MPMP作为HCN的推断引擎使得新任务变得简单：添加监督信息、分类图像或进行修复均对应于将模型的某些变量固定为已知值并对其余变量运行MPMP。当用于分类时，HCN的快速推断与具有线性激活和二值权重的卷积神经网络（CNN）具有完全相同的函数形式。然而，HCN的特征在性质上非常不同。
引用
@article{arxiv.1611.02252,
title = {Hierarchical compositional feature learning},
author = {Miguel Lázaro-Gredilla and Yi Liu and D. Scott Phoenix and Dileep George},
journal= {arXiv preprint arXiv:1611.02252},
year = {2017}
}
备注
Removed the "under review" header from every page, no changes to content