深度学习通过自动化关键任务并实现超越人类的准确度,已在多行业引发革命性变革。然而,这些优势主要依赖部署于云端的巨型神经网络,其能耗惊人。本论文提出两类新型框架与算法,将深度学习模型部署边界拓展至微型边缘设备——此类设备通常在计算资源有限且环境噪声复杂的场景下运行:

(1)高效边缘AI新框架。开发了通过滤波器剪枝与高效网络设计降低推理成本的方法。CUP框架提出层级滤波器聚类剪枝技术实现模型压缩与加速;CMP-NAS框架构建视觉搜索系统,优化小型边缘模型与大型服务器模型协同工作,在保持高精度前提下实现80倍计算成本削减。

(2)鲁棒边缘AI新方法。开发了在降低推理成本同时增强现实噪声鲁棒性的技术。REST框架扩展剪枝应用范围,使网络效率提升9倍、运行速度加快6倍,且具备对抗高斯噪声与对抗样本的鲁棒性;HAR方法将多分支神经网络的早期退出机制扩展至训练阶段,在类别不平衡最优精度,同时节省20%推理算力;IMB-NAS框架通过超网络适配策略优化不平衡数据集的神经架构,相较从头搜索节省5倍计算资源。

研究成果对工业界与社会产生重大影响:CMP-NAS技术支撑时尚与面部检索服务的边缘部署案例,在亚马逊公司内部向数千名研发人员展示;REST技术通过手机实现居家睡眠监测功能,获多家新闻媒体重点报道。

成为VIP会员查看完整内容
22

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《云边计算中加速器虚拟化技术研究》187页
专知会员服务
21+阅读 · 4月10日
多智能体自主系统《群体自主系统的实时路径规划》248页
【MIT博士论文】可靠机器学习模型部署,279页pdf
专知会员服务
53+阅读 · 2023年11月21日
【2022新书】深度学习归一化技术,117页pdf
专知
26+阅读 · 2022年11月25日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
27+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Arxiv
166+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
452+阅读 · 2023年3月31日
Arxiv
166+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
27+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员