Dropout可模拟指数数量模型以用于样本选择技术
机器学习
2022-03-01 v1 计算机视觉与模式识别
摘要
在基于样本选择方法处理带噪标签训练的文献中，继Co-teaching之后通常使用了两个模型。同时，众所周知，网络中存在的Dropout训练的是子网络的集成。我们展示了如何利用Dropout的这一特性，通过训练带有Dropout的单一模型来训练指数数量的共享模型。我们展示了如何修改现有的双模型样本选择方法以使用指数数量的共享模型。使用带有Dropout的单一模型不仅更为便捷，而且该方法还将Dropout的天然优势与训练指数数量模型的好处相结合，从而取得改进的结果。
引用
@article{arxiv.2202.13203,
title = {Dropout can Simulate Exponential Number of Models for Sample Selection Techniques},
author = {Lakshya},
journal= {arXiv preprint arXiv:2202.13203},
year = {2022}
}