最大最小相关方法的正则化与核化
计算机视觉与模式识别
2016-11-18 v2 机器学习
摘要
当每个类别由多个子类组成时，鲁棒分类变得具有挑战性。示例包括多字体光学字符识别和自动化蛋白质功能预测。在基于相关性的最近邻分类中，最大最小相关方法（MCA）通过迭代过程最小化最大误分类风险，提供最坏情况最优解。尽管具有最优性，原始MCA存在限制其广泛实际应用的缺点。即，MCA往往对离群点敏感，不能有效处理数据集中的非线性，并且计算复杂度高。为解决这些局限，我们提出一种改进方案，称为正则化最大最小相关方法（R-MCA）。我们首先将MCA重新表述为二次约束线性规划（QCLP）问题，通过在QCLP的原始问题中引入松弛变量来加入正则化，并推导相应的拉格朗日对偶。该对偶公式使我们能够对R-MCA应用核技巧，从而更好地处理非线性。我们的实验结果表明，正则化和核化使所提R-MCA相比原始MCA对各种分类任务更鲁棒和准确。此外，当数据规模或维度增长时，R-MCA通过求解QCLP的原始或对偶（变量维度较小者）运行显著更快。
引用
@article{arxiv.1502.06105,
title = {Regularization and Kernelization of the Maximin Correlation Approach},
author = {Taehoon Lee and Taesup Moon and Seung Jean Kim and Sungroh Yoon},
journal= {arXiv preprint arXiv:1502.06105},
year = {2016}
}
备注
Submitted to IEEE Access