InClass 网络：用于条件独立混合模型非参数估计与无监督分类的独立分类器网络
机器学习
2020-09-02 v1 机器学习
计量经济学
高能物理 - 唯象学
数据分析、统计与概率
统计方法学
摘要
我们引入了一种新的基于机器学习的方法，称之为独立分类器网络（InClass nets）技术，用于条件独立混合模型（CIMMs）的非参数估计。我们将 CIMM 的估计视为一个多类分类问题，因为将数据集划分为不同类别自然会引出混合模型的估计。InClass 网络由多个独立的分类器神经网络（NNs）组成，每个网络处理 CIMM 的一个变量。通过将各个 NN 使用合适的代价函数同时训练，可将 CIMM 拟合到数据上。NN 逼近任意函数的能力使我们的技术成为非参数的。进一步利用 NN 的能力，我们允许模型的 conditionally independent 变量各自为高维，这是我们的技术相对于现有非机器学习方法的主要优势。我们推导了关于二元 CIMM 非参数可识别性的一些新结果，形式为二元 CIMM 可识别的一个必要条件和一个（不同的）充分条件。我们提供了 InClass 网络作为名为 RainDancesVI 的 Python 包的公共实现，并用几个实例验证了我们的 InClass 网络技术。我们的方法在无监督和半监督分类问题中也有应用。
引用
@article{arxiv.2009.00131,
title = {InClass Nets: Independent Classifier Networks for Nonparametric Estimation of Conditional Independence Mixture Models and Unsupervised Classification},
author = {Konstantin T. Matchev and Prasanth Shyamsundar},
journal= {arXiv preprint arXiv:2009.00131},
year = {2020}
}
备注
46 pages, 25 figures