一种新的基准以及朝向改进弱监督学习的进展
机器学习
2018-09-19 v2 机器学习
摘要
Gulcehre 等人的《知识至关重要:先验信息对优化的重要性》[7]试图通过提出一些若不将工程知识嵌入模型或训练过程就难以学习的问题,来确立当前黑盒深度学习技术的极限。在我们的工作中,我们使用一个通用模型完全解决了先前的知识至关重要问题,提出了一个更困难且可扩展的问题 All-Pairs,并通过引入一种称为 TypeNet 的新的学习型空间变化直方图模型来推进这一新问题,该模型在此问题上优于常规模型。我们在 All-Pairs 上展示的结果表明,我们的模型达到了 100% 的测试准确率,而最佳的 ResNet 模型达到了 79% 的准确率。此外,我们的模型比 ResNet-34 小一个数量级以上。我们向学界提出以高准确率解决更大规模 All-Pairs 问题的挑战以供研究。
引用
@article{arxiv.1807.00126,
title = {A New Benchmark and Progress Toward Improved Weakly Supervised Learning},
author = {Jason Ramapuram and Russ Webb},
journal= {arXiv preprint arXiv:1807.00126},
year = {2018}
}