RTX 3090 AI性能实测：FP32训练速度提升50%，张量核心缩水

点击上方“CVer”，选择加"星标"置顶

重磅干货，第一时间送达

晓查 发自 凹非寺 
本文转载自：量子位（QbitAI）

NVIDIA最近发布了备受期待的RTX 30系列显卡。

其中，性能最强大的RTX 3090具有24GB显存和10496个CUDA核心。而2018年推出的旗舰显卡Titan RTX同样具有24GB显存。

	Titan RTX	RTX 3090
架构	图灵TU102	安培GA102
CUDA核心	4609	10496
张量核心	576	328
显存	24GB	24GB
显存带宽	672GB/s	936GB/s
TDP	285W	350W

RTX 3090在深度学习训练任务中，性能表现究竟如何，它能否取代Titan RTX成为最强消费级AI训练卡？现在已经有了答案。

国外两位AI从业者在拿到这款显卡后，第一时间测试了其在TensorFlow上的AI训练性能。

由于RTX 3090现阶段不能很好地支持TensorFlow 2，因此先在TensorFlow 1.15上进行测试。

话不多说，先看数据。在FP32任务上，RTX 3090每秒可处理561张图片，Titan RTX每秒可处理373张图片，性能提升50.4%！

而在FP16任务上，RTX 3090每秒可处理1163张图片，Titan RTX每秒可处理1082张图片，性能仅提升7.5%。

为何在FP32任务上的性能提升比在FP16上更明显，主要是因为RTX 3090大大提高了CUDA核心的数量。但是用于处理FP16的张量核心数量明显减少，这可能会影响FP16性能。

即便如此，张量核心更少的RTX 3090在很多FP16任务上，性能依然有小幅提升。

随后，英伟达官方提供了支持RTX 3090的CUDA 11.1，谷歌官方在TensorFlow nightly版中提供了对最新显卡的支持。

又有用户再次测试了两款显卡的性能对比。

	FP16		FP32
	Titan RTX	RTX 3090	Titan RTX	RTX 3090
AlexNet	6634	8255	4448	6493
Inception3	656.1	616.3	223	337.3
Inception4	298.1	132.7	99.74	143.7
ResNet152	423.9	484	134.5	203.6
ResNet150	966.8	1260	336	525.9
VGG16	339.7	442.5	212.1	325.6

△ 训练性能：每秒处理的图片数量

可以看出，使用FP32进行的所有模型训练，RTX 3090都能实现40%~60%的训练提升。而大多数模型的FP16训练速度几乎不变，最多提升20%，甚至在Inception模型上还有所下降。

只能说RTX 3090在张量核心上的“刀法”颇为精准，如果你对FP16训练性能有较高要求，也许可以等待今后的升级版。

不过RTX 3090上市价格仅1499美元，比Titan RTX便宜1000美元，仍不失为“性价比”之选。

参考链接：

https://www.pugetsystems.com/labs/hpc/RTX3090-TensorFlow-NAMD-and-HPCG-Performance-on-Linux-Preliminary-1902/

https://www.evolution.ai/post/benchmarking-deep-learning-workloads-with-tensorflow-on-the-nvidia-geforce-rtx-3090

下载1：动手学深度学习

在CVer公众号后台回复：动手学深度学习，即可下载547页《动手学深度学习》电子书和源码。该书是面向中文读者的能运行、可讨论的深度学习教科书，它将文字、公式、图像、代码和运行结果结合在一起。本书将全面介绍深度学习从模型构造到模型训练，以及它们在计算机视觉和自然语言处理中的应用。

下载2：CVPR /  ECCV 2020开源代码

在CVer公众号后台回复：CVPR2020，即可下载CVPR 2020代码开源的论文合集

在CVer公众号后台回复：ECCV2020，即可下载ECCV 2020代码开源的论文合集

重磅！CVer-论文写作与投稿交流群成立

扫码添加CVer助手，可申请加入CVer-论文写作与投稿 微信交流群，目前已满2300+人，旨在交流顶会（CVPR/ICCV/ECCV/NIPS/ICML/ICLR/AAAI等）、顶刊（IJCV/TPAMI/TIP等）、SCI、EI、中文核心等写作与投稿事宜。

同时也可申请加入CVer大群和细分方向技术群，细分方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch和TensorFlow等群。

一定要备注：研究方向+地点+学校/公司+昵称（如论文写作+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲长按加微信群

▲长按关注CVer公众号

整理不易，请给CVer点赞和在看！