REST:面向野外睡眠监测的鲁棒高效神经网络
信号处理
2020-01-31 v1 机器学习
机器学习
摘要
近年来,将深度学习技术整合到医疗健康领域受到了广泛关注。然而,要安全且实用地部署深度学习模型用于家庭健康监测,必须解决两个重要挑战:模型应(1)对噪声具有鲁棒性;以及(2)紧凑且节能。我们提出 REST,一种通过以下方式同时解决这两个问题的新方法:1)通过对抗训练并通过谱正则化控制神经网络的 Lipschitz 常数;2)通过稀疏正则化实现神经网络压缩。我们证明 REST 能生成高度鲁棒且高效的模型,在存在噪声时大幅优于原始全尺寸模型。对于单通道脑电图(EEG)上的睡眠分期任务,在存在高斯噪声时,REST 模型在三个大型真实世界 EEG 数据集上取得了 0.67 的宏 F1 分数,而最先进模型仅为 0.39,同时实现了 19 倍参数缩减和 15 倍 MFLOPS 缩减。通过将这些模型部署到智能手机上的 Android 应用,我们定量观察到 REST 使模型实现高达 17 倍节能和 9 倍更快推理。我们随本文开源代码仓库:https://github.com/duggalrahul/REST。
引用
@article{arxiv.2001.11363,
title = {REST: Robust and Efficient Neural Networks for Sleep Monitoring in the Wild},
author = {Rahul Duggal and Scott Freitas and Cao Xiao and Duen Horng Chau and Jimeng Sun},
journal= {arXiv preprint arXiv:2001.11363},
year = {2020}
}
备注
Accepted to WWW 2020