对抗AMD英伟达！亚马逊推出自研芯片Graviton 3! 机器学习性能飙升3倍

---

  新智元报道  

编辑：David 桃子

【新智元导读】在re:Invent 全球大会上，亚马逊AWS推出了面向计算任务的最新自研芯片Graviton 3，较两年前的上一代相比，机器学习性能暴增3倍，功耗大降60%。 

一直以来，机器学习都受到大大小小的限制。模型的大小、速度以及昂贵的硬件，都是难以突破的瓶颈。

 

据MIT的一份报告指出，机器学习的相关研究很可能正在接近计算的极限。OpenAI 花费了1200万美元来训练它的 GPT-3语言模型，谷歌花费了大约6912万美元来训练BERT。

 

 

现在，亚马逊AWS可能要提供更高的性价比。

 

11月30日，2021 AWS re:Invent 全球大会在线上盛大开幕。

 

会上，AWS 宣布了新款定制芯片，基于Arm架构自研处理器Graviton 3，以及自研云端AI训练芯片的新的加速实例Trn1。该实例运行在AWS去年12月发布的 Trainium 芯片上。

 

 

此外，可视化、无代码机器学习服务Amazon SageMaker Canvas，用于构建数字孪生的AWS IoT TwinMaker等新品纷纷亮相。

Graviton 3：机器学习性能暴增3倍，功耗大降60%

 

AWS在此次活动上宣布了 C7g 形式的 EC2 新实例。 

 

据报道，C7g 实例非常适合计算密集型工作负载：比如HPC、批处理、电子设计自动化 (EDA)、媒体编码、科学建模、广告服务、分布式分析和基于 CPU 的机器学习推理任务等。

 

 

为了适应这些新实例下的计算密集型任务需求，AWS推出了新的Graviton 3处理器，提供强大的算力支持。

 

 

可以预见的是，这款Graviton 3芯片应该不会用在传统的网络托管环境中，尽管它们可以用于裸机托管或专用服务器/ VPS 之类的场景，但这类场景显然是「大材小用」了。

 

AWS 的上一代面向计算密集任务的处理器 Graviton 2 于2019 年 12 月发布，而最初代的基于 Arm 架构的 Graviton 则在 re:Invent 2018 上亮相。

 

时隔两年，Graviton 3和自己的前辈相比，进步有多大呢？

 

虽然目前这款芯片的很多详细参数尚未完全公布，不过从AWS这次活动上公布的数据看，进步很大。

 

 

Graviton 3比 Graviton2 快 25%，浮点性能提高了2倍，机器学习工作负载提高3倍，同时功耗降低了60%。

 

Graviton 3支持DDR5 内存，和上一代的DDR4相比，内存带宽增加了 50%。

 

但目前，Graviton 3的核心数量、架构和核心时钟速度等详细参数还未公布。

 

 

不过，如果回顾AWS过去的路线，2019年推出的 Graviton 2 相比 2018 年的原始型号Graviton，核心数量实现了翻倍，达到了 64 核，并使用了ARM Neoverse N1 7nm架构，使运行主频达到了2.5GHz。

 

按照这个思路，要大胆预测一下Graviton 3在主频和核心数量上的参数，应该也不是难事。

 

此次亮相的Graviton 3 将面临来自 AMD 和英特尔的竞争。

 

AMD已经计划在 2022 年推出新一代 Zen 4 产品，其处理器在 5nm 工艺上使用多达 128 个内核。英特尔已经推出了其至强「Sapphire Rapids」处理器，将 DDR5 和 PCIe 5.0 带到了桌面平台上。

 

另外，此次活动上还宣布了由 Trainium 芯片提供支持的新的Trn1 实例。

 

 

Trainium是 AWS 去年推出专门用于训练深度学习模型的芯片。此次发布的新实例，会让图像识别、自然语言处理和欺诈检测等应用的深度学习训练实现最佳的性价比。

 

这些新实例将提供高达 800Gbps 的网络带宽，目前已经开放了预览模式。

SageMaker：模型创建，拖拽一步到位

低代码和无代码平台允许开发人员和非开发人员通过可视化板面创建软件，而不用在进行传统中的编程。这种方式在开发者中采用率正在上升。

 

 

OutSystems 最近的一份报告同样显示，2019/2020年，41%的企业使用低代码或无代码工具，而2018/2019年这一比例为34% 。

 

在 re:Invent 年度大会上，亚马逊宣布了无代码AI模型开发平台 SageMaker Canvas，用户不用编写任何代码就可以创建机器学习的模型。

 

 

即便是没有任何经验的用户，也无需编写任何代码，只需用鼠标点击拖拽，即可创建机器学习预测模型。

 

 

用户通过这个平台可以访问来自云和本地数据库PB级数据，比如 Amazon S3、 Redshift 数据库以及本地文件。

 

继今年早些时候发布的 SageMaker 改进之后，亚马逊会上又发布了包括 Data Wrangler、 Feature Store 和 pipeline 在内的产品。

 

TwinMaker：元宇宙的样子，你来构建

 

数字孪生是元宇宙的核心。

 

今年，元宇宙概念爆火，许多科技巨头纷纷推出自家虚拟世界产品，以表示跨入元宇宙。

 

在刚刚过去的GTC大会上，英伟达推出了3个虚拟人：黄仁勋虚拟形象 Toy-Me，蛋壳小人，还有一个虚拟助手。

 

 

微软将旗下 Microsoft Teams变成「元宇宙」，把MR平台 Mesh 融入Teams 中，让人们可以通过虚拟化身的形式见面和互动，还能共享Office文件等。

 

还有Facebook直接改头换面，改名为Meta，并演示虚拟人如何在虚拟世界生活。其野心昭然若揭，就是为了未来在「元宇宙」中抢占先机。

 

 

亚马逊年度会上同样推出了一项新服务 AWS IoT TwinMaker，可用于轻松创建和使用现实世界系统的数字孪生。

 

数字孪生是建筑物、工厂、生产线和设备等事物的虚拟表示，它们定期更新现实世界数据，以模仿其所代表系统的行为。

 

 

有了这项新服务，用户无需将数据移动到单个存储库中，便可通过连接视频提要和应用程序等来源的数据来创建数字孪生。

 

 

在过去的15年里，云计算作为新兴技术革命的核心驱动力，正为越来越多的企业提供了实现转型的关键途径。

 

Selipsky表示，「我们才刚刚开始。目前只有5-15%的支出转移到云端，因此有一个很大的机会到来，5G和物联网也变得非常重要。」

 

AWS希望到2025年培训29万个云技能工人，以应对云相关工作的爆发式增长，正在计划为培训尽一份力。

 

参考资料：‍

https://zhidx.com/p/306398.html

https://venturebeat.com/2021/11/30/amazon-launches-sagemaker-canvas-for-no-code-ai-model-development/

https://techcrunch.com/2021/11/30/aws-launches-its-graviton-3-processor/

https://www.theregister.com/2021/12/01/aws_reinvent_graviton_3/

https://udn.com/news/story/7086/5928680

https://stock.eastmoney.com/a/202112012198711136.html

https://news.cnyes.com/news/id/4778556?exp=a

https://venturebeat.com/2021/11/30/amazon-announces-graviton3-processors-for-ai-inferencing/