一种在线非线性 Neyman-Pearson 分类的神经网络方法
机器学习
2020-09-01 v2 机器学习
摘要
我们首次在文献中提出了一种兼具在线与非线性特性的新型 Neyman-Pearson (NP) 分类器。该分类器以在线方式处理二元标记数据流，并在用户指定且可控的假阳性率下最大化检测效能。我们的 NP 分类器是一个单隐层前馈神经网络 (SLFN)，其初始化采用随机傅里叶特征 (RFFs)，以在其具有正弦激活函数的隐层构建径向基函数的核空间。这种 RFFs 的使用不仅提供了具有强大非线性建模能力的优良初始化，还指数级地降低了参数复杂度并使网络紧凑化，从而在显著提高处理效率的同时减轻过拟合。我们基于拉格朗日 NP 目标，通过随机梯度下降更新来顺序学习该 SLFN。由此，我们获得了快速的在线适应能力和强大的非线性 Neyman-Pearson 建模能力。由于仅具有 O(N) 的计算复杂度和 O(1) 的空间复杂度（N：数据实例数），我们的算法适用于大规模数据应用，并能在实时处理中提供良好的假阳性率可控性。在多个真实数据集上的大量实验中，我们的算法显著优于现有的竞争性先进技术，要么在 NP 分类目标上表现更优且具有相当的计算与空间复杂度，要么以显著更低的复杂度实现了可比的性能。
引用
@article{arxiv.2006.08001,
title = {A Neural Network Approach for Online Nonlinear Neyman-Pearson Classification},
author = {Basarbatu Can and Huseyin Ozkan},
journal= {arXiv preprint arXiv:2006.08001},
year = {2020}
}