中文

利用共识与补充原理中的波浪损失函数以增强多视图协同效果:稳健学习方法

机器学习 2024-08-14 v1

摘要

多视图学习(MvL)是机器学习中的一个发展中的领域,利用多个数据视角通过视图一致性和视图差异性来提高模型性能。尽管已有众多成功的基于多视图的SVM模型,但现有框架主要关注共识原理,往往忽视补充原理。此外,这些方法在面对噪声、错误丰富且视图不一致的样本时鲁棒性有限,这些样本在多视图数据集中十分常见。为克服上述局限性,本文引入了Wave-MvSVM,这是一种新型的多视图支持向量机框架,利用波浪损失函数(W-loss)来有效整合共识与补充原理。与传统方法不同,新的Wave-MvSVM通过有效整合两种原理,确保更全面且更稳健的学习过程。波浪损失函数以其平滑性、非对称性和有界性著称,特别有效地减轻噪声和离群数据数据的不良影响,从而提高模型稳定性。理论上,波浪损失函数还具备关键的分类校准特性,进一步提升其效果。Wave-MvSVM采用视图间共正则化项以实现视图一致性,并采用自适应组合权重策略以最大化每个视图的判别能力。优化问题通过GD与ADMM的组合高效求解,确保可靠收敛至最优解。基于Rademacher复杂度的理论分析验证了Wave-MvSVM模型的泛化能力。广泛的实验评估表明,Wave-MvSVM在与现有基准模型相比方面表现卓越。

关键词

引用

@article{arxiv.2408.06819,
  title  = {Enhancing Multiview Synergy: Robust Learning by Exploiting the Wave Loss Function with Consensus and Complementarity Principles},
  author = {A. Quadir and Mushir Akhtar and M. Tanveer},
  journal= {arXiv preprint arXiv:2408.06819},
  year   = {2024}
}