中文

基于插值一致性正则化的分布式半监督模糊回归

机器学习 2022-09-21 v1 人工智能

摘要

近年来,分布式半监督学习(DSSL)算法在互联网络上利用未标记样本方面展现出有效性,其中智能体无法彼此共享原始数据,只能与邻居通信非敏感信息。然而,现有 DSSL 算法无法应对数据不确定性,并可能面临高计算与通信开销问题。为解决这些问题,我们提出一种具有模糊 if-then 规则与插值一致性正则化(ICR)的分布式半监督模糊回归(DSFR)模型。ICR 近期被提出用于半监督问题,可迫使决策边界穿过稀疏数据区域,从而增强模型鲁棒性。然而,其在分布式场景中的应用尚未被考虑。本工作中,我们提出一种分布式模糊 C 均值(DFCM)方法与一种基于著名交替方向乘子法的分布式插值一致性正则化(DICR),分别用于定位 DSFR 前件与后件组件中的参数。值得注意的是,DSFR 模型收敛极快,因其不涉及反向传播过程,且得益于 DFCM 与 DICR 的利用,可扩展至大规模数据集。在人工与真实世界数据集上的实验结果表明,所提 DSFR 模型在损失值与计算成本方面均优于最先进的 DSSL 算法。

关键词

引用

@article{arxiv.2209.09240,
  title  = {Distributed Semi-supervised Fuzzy Regression with Interpolation Consistency Regularization},
  author = {Ye Shi and Leijie Zhang and Zehong Cao and M. Tanveer and Chin-Teng Lin},
  journal= {arXiv preprint arXiv:2209.09240},
  year   = {2022}
}