模式辅助的深度玻尔兹曼机联合训练

受限玻尔兹曼机（RBM）的深度扩展，即深度玻尔兹曼机（DBM），是一类具表现力的机器学习模型家族，可作为复杂概率分布的紧凑表示。然而，在无监督设定下联合训练 DBM 已被证明是一项艰巨任务。我们最近提出的一种称为模式辅助训练的技术，在改进 RBM 的无监督训练方面取得了巨大成功。在此，我们展示模式辅助训练对 DBM 的性能提升更为显著。事实上，采用模式辅助算法联合训练的 DBM，在引入扇入（fan-in）网络拓扑的前提下，相较于最先进的训练流程甚至相较于 RBM，都能以少几个数量级的总参数表示同一数据集。这种参数数量的大幅节省也使得该训练方法对于硬件实现极具吸引力。