在这项工作中,我们介绍了一系列的架构修改,旨在提高神经网络的准确性,同时保持他们的GPU训练和推理效率。我们首先演示和讨论由flops优化引起的瓶颈。然后,我们建议更好地利用GPU结构和资产的替代设计。最后,我们介绍了一种新的GPU专用模型,称为TResNet,它比以前的ConvNets具有更好的准确性和效率。使用TResNet模型,与ResNet50的GPU吞吐量相似,在ImageNet上达到80.7%的top-1精度。我们的TResNet模型也能很好地传输竞争数据集,并达到最先进的精度,如Stanford cars(96.0%)、CIFAR-10(99.0%)、CIFAR-100(91.5%)和牛津花卉(99.1%)。实现可在:这个

https://github.com/mrT23/TResNet

成为VIP会员查看完整内容
32

相关内容

阿里巴巴集团于1999年创立,阿里巴巴集团子公司及关联公司有:阿里巴巴网络有限公司、淘宝网、淘宝商城(天猫)、一淘、支付宝、阿里云计算、中国雅虎等。
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
31+阅读 · 2020年4月15日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
29+阅读 · 2020年3月5日
阿里巴巴达摩院发布「2020十大科技趋势」
专知会员服务
106+阅读 · 2020年1月2日
重磅!MobileNetV3 来了!
计算机视觉life
4+阅读 · 2019年5月11日
谷歌 MorphNet:让你的神经网络更小但更快
机器学习算法与Python学习
5+阅读 · 2019年4月18日
基于手机系统的实时目标检测
计算机视觉战队
8+阅读 · 2018年12月5日
哇~这么Deep且又轻量的Network,实时目标检测
计算机视觉战队
7+阅读 · 2018年8月15日
数据科学家应该知道的10个高级深度学习架构
深度学习
6+阅读 · 2018年2月11日
解读谷歌NASNet:一个大规模图像识别架构!(附论文)
全球人工智能
9+阅读 · 2018年1月20日
TResNet: High Performance GPU-Dedicated Architecture
Arxiv
8+阅读 · 2020年3月30日
Neural Architecture Optimization
Arxiv
8+阅读 · 2018年9月5日
Arxiv
8+阅读 · 2018年5月17日
VIP会员
相关VIP内容
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
31+阅读 · 2020年4月15日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
29+阅读 · 2020年3月5日
阿里巴巴达摩院发布「2020十大科技趋势」
专知会员服务
106+阅读 · 2020年1月2日
相关资讯
重磅!MobileNetV3 来了!
计算机视觉life
4+阅读 · 2019年5月11日
谷歌 MorphNet:让你的神经网络更小但更快
机器学习算法与Python学习
5+阅读 · 2019年4月18日
基于手机系统的实时目标检测
计算机视觉战队
8+阅读 · 2018年12月5日
哇~这么Deep且又轻量的Network,实时目标检测
计算机视觉战队
7+阅读 · 2018年8月15日
数据科学家应该知道的10个高级深度学习架构
深度学习
6+阅读 · 2018年2月11日
解读谷歌NASNet:一个大规模图像识别架构!(附论文)
全球人工智能
9+阅读 · 2018年1月20日
微信扫码咨询专知VIP会员