「逃离」ONNX

2021 年 12 月 10 日 机器之心

AI 模型的开发过程中,不可避免地会遇到不同算法用不同框架实现的问题。 每个深度 学习框架各有侧重,针对不同的任务有独特的优化。 然而每个框架都有自己独有的格式来存储网络模型,这为深度学习算法的落地带来了一个无法避免的麻烦: 在不同框架间进行模型描述格式转换。
 
2017 年,ONNX 对外发布,希望成为兼容所有格式的中立角色,减少开发者在各个训练和推理框架间切换的代价。然而由于中立这一点又导致了它内部细节无比分裂,想要完美支持全部的 opset 难于上青天。为了能更好地从 ONNX 上转换到其他各种格式,无数开发者投入其中开发转化工具,比如一流科技(OneFlow)工程师大缺弦开发的 ONNX Simplifier 。然而天下分久必合,合久必分,ONNX 带来的一系列分裂问题让一部分做深度学习落地推理的开发者们痛苦难耐,尝试绕开 ONNX 。

旷视天元 MegEngine 做为一款训推一体的框架,开发出了 Traced Module 这一模型格式,直接从训练粒度的操作进行转换,简单快捷。而无独有偶,nihui 在 ncnn 里开发了 PNNX ,直接从 PyTorch 导出比较干净的高层 OP,简化整体流程。各方逃离ONNX的路线有何异同 ?ONNX 这样的中立模型格式前景如何?

12月18日14:00—15:30 ,机器之心最新一期线上分享邀请到腾讯优图实验室专家研究员nihui、一流科技工程师大缺弦、旷视天元 MegEngine 工程师许欣然、李相银,共同探讨改进或替代 ONNX 的思路和方法。

 
分享主题: 逃离」 ONNX
分享摘要: 为了绕开 ONNX ,旷视天元  MegEngine 开发了 Traced Module ncnn 的负责人  nihui 开发了  PyTorch 模型部署的新途径 PNNX ,两个思路一致但起点不同的方案有何异同?ONNX 到底有哪些问题让这些方案放弃它?新方案解决了哪些 ONNX 的痛点?ONNX 是否还能重拾它的「口碑」? 本次 Meetup 中,来自旷视天元 MegEngine ncnn OneFlow  的工程师将一起探讨这些问题。
Meetup主持人: 许欣然, 旷视天元 MegEngine 技术负责人
嘉宾介绍:
  • nihui,腾讯优图实验室专家研究员,腾讯端侧开源项目 ncnn 负责人
  • 大缺弦,一流科技(OneFlow)工程师,ONNX 成员,ONNX Simplifier 开发者
  • 李相银,旷视天元 MegEngine 工程师
Meetup 议程:
  • 12月18日14:00-15:00:圆桌讨论
  • 12月18日15:00-15:30:Q&A
直播间:关注机动组视频号,北京时间 12 月 18 日开播。
交流群 本次直播设有 QA 环节,欢迎加入本次直播交流群探讨交流。
如群已超出人数限制,请添加机器之心小助手:syncedai2、syncedai3、syncedai4 或 syncedai5,备注「ONNX」即可加入。
登录查看更多
2

相关内容

跨框架的模型中间表达框架
【MIT-韩松】微型化机器学习与高效深度学习,127页ppt
专知会员服务
58+阅读 · 2021年10月29日
专知会员服务
51+阅读 · 2021年6月17日
【2021新书】机器学习模型生产部署实践,161页pdf,
专知会员服务
111+阅读 · 2021年6月11日
【XAUTOML】可解释自动机器学习,27页ppt
专知会员服务
61+阅读 · 2021年4月23日
TensorFlowLite:端侧机器学习框架
专知会员服务
32+阅读 · 2020年8月27日
一图搞定ML!2020版机器学习技术路线图,35页ppt
专知会员服务
93+阅读 · 2020年7月28日
德勤:2020技术趋势报告,120页pdf
专知会员服务
189+阅读 · 2020年3月31日
实操教程|Pytorch转ONNX详解
极市平台
3+阅读 · 2022年4月4日
逃离大厂,回不了乡
人人都是产品经理
1+阅读 · 2022年2月10日
野路子:记录一个解决onnx转ncnn时op不支持的trick
极市平台
11+阅读 · 2022年1月19日
Tensorrt踩坑日记 | python、pytorch 转 onnx 推理加速
极市平台
14+阅读 · 2021年12月24日
2022年了,PyTorch和TensorFlow你选哪个?
极市平台
2+阅读 · 2021年12月20日
做AI这么轻松吗?因为百度飞桨技术力又飙升了!
直击行业痛点!端侧模型部署的成熟解决方案有了!
夕小瑶的卖萌屋
0+阅读 · 2021年8月4日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
24+阅读 · 2021年1月25日
VIP会员
相关VIP内容
【MIT-韩松】微型化机器学习与高效深度学习,127页ppt
专知会员服务
58+阅读 · 2021年10月29日
专知会员服务
51+阅读 · 2021年6月17日
【2021新书】机器学习模型生产部署实践,161页pdf,
专知会员服务
111+阅读 · 2021年6月11日
【XAUTOML】可解释自动机器学习,27页ppt
专知会员服务
61+阅读 · 2021年4月23日
TensorFlowLite:端侧机器学习框架
专知会员服务
32+阅读 · 2020年8月27日
一图搞定ML!2020版机器学习技术路线图,35页ppt
专知会员服务
93+阅读 · 2020年7月28日
德勤:2020技术趋势报告,120页pdf
专知会员服务
189+阅读 · 2020年3月31日
相关资讯
实操教程|Pytorch转ONNX详解
极市平台
3+阅读 · 2022年4月4日
逃离大厂,回不了乡
人人都是产品经理
1+阅读 · 2022年2月10日
野路子:记录一个解决onnx转ncnn时op不支持的trick
极市平台
11+阅读 · 2022年1月19日
Tensorrt踩坑日记 | python、pytorch 转 onnx 推理加速
极市平台
14+阅读 · 2021年12月24日
2022年了,PyTorch和TensorFlow你选哪个?
极市平台
2+阅读 · 2021年12月20日
做AI这么轻松吗?因为百度飞桨技术力又飙升了!
直击行业痛点!端侧模型部署的成熟解决方案有了!
夕小瑶的卖萌屋
0+阅读 · 2021年8月4日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员