中文

风格记忆:使分类器网络具备生成能力

神经与进化计算 2018-03-07 v1

摘要

深度网络在分类任务中展现出优异性能。然而,分类器网络所学得的参数通常会丢弃输入的风格信息,以利于与分类严格相关的信息。我们引入一种通过在网络输出层添加“风格记忆(style memory)”而能够同时进行分类与重建的网络。我们也展示了如何将此类神经网络作为深度多层自编码器进行训练,联合最小化分类损失与重建损失。我们网络的生成能力表明,当分类正确时,风格记忆神经元与分类器神经元的组合能够对输入进行良好重建。我们进一步探究了风格记忆的本质及其与数字和字母组合的关系。最后,我们提出该架构实现了预测编码中使用的双向信息流,且此类双向网络有助于缓解因模糊或对抗性输入而被误导的问题。

关键词

引用

@article{arxiv.1803.01900,
  title  = {Style Memory: Making a Classifier Network Generative},
  author = {Rey Wiyatno and Jeff Orchard},
  journal= {arXiv preprint arXiv:1803.01900},
  year   = {2018}
}

备注

6 pages, 11 figures