中文

协作智能编排:基于不一致性的半监督学习与主动学习融合

机器学习 2022-06-08 v1

摘要

尽管标注大量数据以满足复杂学习模型的需求对许多现实应用而言成本高昂。主动学习(AL)和半监督学习(SSL)是两种有效但常孤立的缓解数据饥渴问题的方法。近期一些研究探索了结合AL与SSL以更好地探查未标注数据的潜力。然而,几乎所有这些当代SSL-AL工作都使用简单组合策略,忽略了SSL与AL的内在关系。此外,其他方法在处理大规模高维数据集时面临高计算成本。受工业标注数据实践的启发,我们提出了一种创新的基于不一致性的虚拟对抗主动学习(IDEAL)算法,以进一步挖掘SSL-AL的潜在优越性并实现AL与SSL的相互增强,即SSL将标签信息传播至未标注样本并为AL提供平滑嵌入,而AL排除具有不一致预测和较大不确定性的样本供SSL使用。我们通过不同粒度的增强策略(包括细粒度连续扰动探索和粗粒度数据变换)来估计未标注样本的不一致性。在文本和图像领域的广泛实验验证了所提算法相比最先进基线的有效性。两个真实案例研究可视化了应用和部署该数据采样算法的实际工业价值。

关键词

引用

@article{arxiv.2206.03288,
  title  = {Collaborative Intelligence Orchestration: Inconsistency-Based Fusion of Semi-Supervised Learning and Active Learning},
  author = {Jiannan Guo and Yangyang Kang and Yu Duan and Xiaozhong Liu and Siliang Tang and Wenqiao Zhang and Kun Kuang and Changlong Sun and Fei Wu},
  journal= {arXiv preprint arXiv:2206.03288},
  year   = {2022}
}

备注

Accepted to KDD 2022