中文

STORM:边缘端端到端经验风险最小化的基础

机器学习 2020-06-26 v1 机器学习

摘要

经验风险最小化或许是统计学习中影响最深远的思想,以回归与分类模型的形式应用于几乎所有科学与技术领域。为在分布式计算环境中分析海量流数据,从业者越来越倾向于将回归模型部署在边缘而非云端。通过将数据保留在边缘设备上,我们最小化了与模型相关的能耗、通信与数据安全风险。尽管在边缘训练模型同样有利,但一个常见假设是模型最初在云端训练,因为训练通常需要大量计算与内存。为此,我们提出 STORM,一种用于经验风险最小化的在线草图。STORM 将数据流压缩为一个微小的整数计数器数组。该草图足以估计原始数据集上的多种替代损失。我们提供严格的理论分析,并表明 STORM 可估计为最小二乘目标精心选择的替代损失。在对真实世界数据集上线性回归模型的详尽实验比较中,我们发现 STORM 能够训练出准确的回归模型。

关键词

引用

@article{arxiv.2006.14554,
  title  = {STORM: Foundations of End-to-End Empirical Risk Minimization on the Edge},
  author = {Benjamin Coleman and Gaurav Gupta and John Chen and Anshumali Shrivastava},
  journal= {arXiv preprint arXiv:2006.14554},
  year   = {2020}
}