在许多行业规模的应用中,大量消耗资源的机器学习模型部署在强大的云服务器中。同时,大量的输入数据在云的边缘被收集。推理结果也会传送给用户或传递给位于边缘的下游任务。边缘通常由大量低功率器件组成。如何设计行业产品来支持复杂的深度模型部署和高效地进行模型推理,从而保持较高的模型精度和较低的端到端延迟,是一个巨大的挑战。本文介绍了华为云的边缘云协作原型——Auto-Split背后的技术和工程实践。这项专利技术已经在选定的应用中得到验证,并将用于更广泛的系统边缘云应用集成,并将作为端到端云边缘协同智能部署的自动化管道服务提供给公众使用。据我们所知,目前还没有能够提供深度神经网络(DNN)拆分功能的工业产品。

https://www.zhuanzhi.ai/paper/178ebfb2975bbcc1ef6994f1343d46be

成为VIP会员查看完整内容
12

相关内容

自监督学习(self-supervised learning)可以被看作是机器学习的一种“理想状态”,模型直接从无标签数据中自行学习,无需标注数据。
【CMU博士论文】通过记忆的元强化学习
专知会员服务
53+阅读 · 2021年10月16日
专知会员服务
25+阅读 · 2021年9月10日
专知会员服务
21+阅读 · 2021年8月29日
专知会员服务
15+阅读 · 2021年8月19日
专知会员服务
15+阅读 · 2021年8月13日
专知会员服务
18+阅读 · 2021年7月20日
专知会员服务
14+阅读 · 2021年6月16日
专知会员服务
7+阅读 · 2021年4月4日
时空预测概述及多任务时空网络的交通预测
图与推荐
8+阅读 · 2020年11月26日
建设数字交通 智绘交通强国
智能交通技术
6+阅读 · 2019年9月14日
基于MaaS的智慧交通体系
智能交通技术
11+阅读 · 2019年6月13日
八座城市智慧交通大脑!
智能交通技术
7+阅读 · 2019年3月13日
【边缘智能】边缘计算驱动的深度学习加速技术
产业智能官
20+阅读 · 2019年2月8日
Arxiv
1+阅读 · 2021年10月21日
Arxiv
0+阅读 · 2021年10月20日
Arxiv
0+阅读 · 2021年10月17日
VIP会员
相关VIP内容
【CMU博士论文】通过记忆的元强化学习
专知会员服务
53+阅读 · 2021年10月16日
专知会员服务
25+阅读 · 2021年9月10日
专知会员服务
21+阅读 · 2021年8月29日
专知会员服务
15+阅读 · 2021年8月19日
专知会员服务
15+阅读 · 2021年8月13日
专知会员服务
18+阅读 · 2021年7月20日
专知会员服务
14+阅读 · 2021年6月16日
专知会员服务
7+阅读 · 2021年4月4日
相关资讯
时空预测概述及多任务时空网络的交通预测
图与推荐
8+阅读 · 2020年11月26日
建设数字交通 智绘交通强国
智能交通技术
6+阅读 · 2019年9月14日
基于MaaS的智慧交通体系
智能交通技术
11+阅读 · 2019年6月13日
八座城市智慧交通大脑!
智能交通技术
7+阅读 · 2019年3月13日
【边缘智能】边缘计算驱动的深度学习加速技术
产业智能官
20+阅读 · 2019年2月8日
微信扫码咨询专知VIP会员