不会部署深度学习模型？腾讯优图大咖来教你

点击上方“CVer”，选择加"星标"置顶

重磅干货，第一时间送达

6月10日，腾讯优图宣布其研发的推理组件TNN正式对外开源，直面能力分散、多平台不兼容等问题，该框架可开发注册包括ARM、METAL、OPENCL、NPU、CUDA等主流平台在内的多种推理平台，为开发人员提供统一的模型描述文件和调用接口，让企业一套流程就能部署到位，简单易用、省时省力。

https://github.com/Tencent/TNN

 

腾讯这款自研的推理组件TNN源自内部16年就开始研发的Rapidnet框架，后续借鉴了ncnn、MNN、MACE等开源框架高性能和易扩展的优点，并进一步提升。TNN的优秀已在手Q、微视、天天P图等APP中的美颜、美妆、魔法天空、光感染发、手势红包等功能的处理速度上得到了证实，其处理速度比当前业界开源框架平均快20%以上；同时，在腾讯云GPU服务器落地中，能够实现性能较业界主流框架提升50%以上。

 

以下是MNN, ncnn, TNN框架在多款主流平台的实测性能：

注：纵轴单位：ms  测试分支：MNN:1.0.0(2020.05.07),ncnn:20200413, TNN: master(2020.06.10)

测试模型：https://github.com/alohali/benchmark-models

 

如果这款推理组件正好能解决你目前遇到的问题，或者你对它有着极大的兴趣，那么CVer 强烈推荐你参加此次由腾讯优图主办的6月15日的线上沙龙，届时腾讯优图实验室资深研究员Darren将为大家解读【多场景适配：深度学习模型部署优化之道】的主题分享。将帮助大家全面了解这个深度学习推断框架的前世今生，辅助大家快速上手在不同场景下的模型部署优化能力。

扫描上图二维码即可免费报名参加

注：如果是学生，则把公司当做学校即可

 

扫描上图二维码添加小助手文文酱，回复关键字“优图”，入直播群

点击阅读原文即可免费预约观看直播，6月15日晚7点-8点，我们不见不散～