Snorkel DryBell:工业规模弱监督部署的案例研究
机器学习
2019-06-05 v2 机器学习
摘要
标注训练数据是开发基于机器学习的应用中成本最高的瓶颈之一。我们提出一项首创研究,展示如何跨组织利用现有知识资源作为弱监督(weak supervision),从而将开发时间与成本降低一个数量级,并介绍面向该场景的新型弱监督管理系统 Snorkel DryBell。Snorkel DryBell 构建于 Snorkel 框架之上,在三个关键方面对其扩展:灵活的、基于模板的多样化组织知识摄取,跨特征生产服务,以及可扩展、无采样的执行。在 Google 的三个分类任务上,我们发现 Snorkel DryBell 创建的 classifiers 质量与用数万个人工标注样本训练的相当,将不可服务的组织资源转化为可服务的模型,平均带来 52% 的性能提升,并在数十分钟内处理数百万个数据点。
引用
@article{arxiv.1812.00417,
title = {Snorkel DryBell: A Case Study in Deploying Weak Supervision at Industrial Scale},
author = {Stephen H. Bach and Daniel Rodriguez and Yintao Liu and Chong Luo and Haidong Shao and Cassandra Xia and Souvik Sen and Alexander Ratner and Braden Hancock and Houman Alborzi and Rahul Kuchhal and Christopher Ré and Rob Malkin},
journal= {arXiv preprint arXiv:1812.00417},
year = {2019}
}