协作神经网络(CoNN):利用先验独立结构改进分类
机器学习
2019-06-04 v1 机器学习
摘要
我们提出一种称为协作神经网络(CoNN)的新方法,它使用一组协作训练的神经网络来捕获利用给定先验独立结构的隐表示。该模型比基于指数族分布的传统图模型更灵活,但比传统深度网络或变分自编码器融入了更多领域特定的先验结构。该框架非常通用,可用于利用任意图模型的独立结构。我们通过将流行的潜在狄利克雷分配(LDA)模型的独立结构迁移到协作神经网络 CoNN-sLDA 来阐明该技术。在监督文本分类任务上对 CoNN-sLDA 的实证评估表明,先验独立结构的理论优势可在实践中实现——与最先进水平相比,我们在具有挑战性的 MultiSent 数据集上展示了 23% 的错误率降低。
引用
@article{arxiv.1906.00291,
title = {Cooperative neural networks (CoNN): Exploiting prior independence structure for improved classification},
author = {Harsh Shrivastava and Eugene Bart and Bob Price and Hanjun Dai and Bo Dai and Srinivas Aluru},
journal= {arXiv preprint arXiv:1906.00291},
year = {2019}
}