题目

休息:用于野外睡眠监测的强大而有效的神经网络 REST: Robust and Efficient Neural Networks for Sleep Monitoring in the Wild

类型

人工智能医学

关键字

深度学习,人工智能医学,睡眠监测,REST方法,神经网络模型功耗与速度

简介

近年来,人们将大量注意力投入了将深度学习技术集成到医疗领域中。但是,为了安全,实用地将深度学习模型部署到家庭健康监控中,必须解决两个重大挑战:模型应(1)抗噪声能力强;(2)紧凑且节能。我们提出了REST,这是一种新方法,可同时通过1)对抗训练和通过频谱正则化控制神经网络的Lipschitz常数,同时2)通过稀疏正则化实现神经网络压缩来解决这两个问题。我们证明了REST产生的鲁棒性和高效性模型在存在噪声的情况下大大优于原始的全尺寸模型。对于单通道脑电图(EEG)上的睡眠分期任务,REST模型在存在高斯噪声的情况下获得的0.61宏F1得分与最先进模型获得的0.39宏得分相比,同时在两个大型的真实EEG数据集上获得了19倍的参数减少和15倍的MFLOPS减少。通过将这些模型部署到智能手机上的Android应用程序,我们可以定量地观察到REST使模型最多可实现17倍的能耗降低和9倍的快速推理。我们通过本文将代码存储库开源:我们从数量上观察到,REST使模型的能耗降低多达17倍,推理速度提高9倍。我们通过本文将代码存储库开源:我们从数量上观察到,REST使模型的能耗降低多达17倍,推理速度提高9倍。

作者

Rahul Duggal, Scott Freitas, Cao Xiao, Duen Horng Chau, Jimeng Sun

成为VIP会员查看完整内容
6

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
[ICML-Google]先宽后窄:对深度薄网络的有效训练
专知会员服务
33+阅读 · 2020年7月5日
【ICLR 2019】双曲注意力网络,Hyperbolic  Attention Network
专知会员服务
82+阅读 · 2020年6月21日
专知会员服务
44+阅读 · 2020年3月6日
【ICLR2020-】基于记忆的图网络,MEMORY-BASED GRAPH NETWORKS
专知会员服务
108+阅读 · 2020年2月22日
【泡泡点云时空】PointPillars:点云物体检测的快速编码器
ICLR 2019论文解读:量化神经网络
机器之心
9+阅读 · 2019年6月13日
【泡泡点云时空】PointConv: 3D点云的深度卷积网络
泡泡机器人SLAM
23+阅读 · 2019年6月12日
【泡泡图灵智库】GCNv2:高效关联预测实时SLAM(arXiv)
泡泡机器人SLAM
44+阅读 · 2019年4月15日
Arxiv
6+阅读 · 2018年10月3日
Relational recurrent neural networks
Arxiv
8+阅读 · 2018年6月28日
Arxiv
9+阅读 · 2018年2月4日
VIP会员
相关VIP内容
[ICML-Google]先宽后窄:对深度薄网络的有效训练
专知会员服务
33+阅读 · 2020年7月5日
【ICLR 2019】双曲注意力网络,Hyperbolic  Attention Network
专知会员服务
82+阅读 · 2020年6月21日
专知会员服务
44+阅读 · 2020年3月6日
【ICLR2020-】基于记忆的图网络,MEMORY-BASED GRAPH NETWORKS
专知会员服务
108+阅读 · 2020年2月22日
微信扫码咨询专知VIP会员