对话阿里云异构计算掌舵人：人工智能爆发三要素

计算，正在撬动人工智能产业这个千亿级的市场。

传统通用计算无法满足人工智能对爆发的计算能力需求，异构计算中GPU/FPGA等高并行、高密集的计算能力被认为是现阶段挑起人工智能产业的大梁。

异构计算是指不同类型的指令集和体系架构的计算单元组成的系统的计算方式，如“CPU+GPU”,"CPU+FPGA“等，”更适合深度学习、基因匹配、金融分析等计算密集型领域。

昨天，阿里云对外展示了异构计算产品家族，将异构计算的能力带到云上对外服务。

会后，我们采访了阿里云异构计算掌舵人张献涛。

 

张献涛，花名旭卿，武汉大学信息安全博士，是Xen、KVM等多个开源虚拟化项目的主要贡献者，目前主要负责阿里云虚拟化技术、高性能计算产品、异构计算产品以及创新类型产品的技术和研发的团队。

 

在这次对话中，张献涛分享了对人工智能与异构计算的关系，以及对未来计算大战的思考。

1

人工智能爆发三要素：算法、计算力、数据

 

人工智能爆发有三要素：算法，计算力，数据。

张献涛指出，人工智能的概念提出60多年了，这几年才呈现出爆发的趋势，不单单是因为算法改进、数据积累，更重要的是计算能力的变革。一般企业都有自己的算法和数据，但在计算力的获取上一直有比较高的门槛。

 

异构计算被认为是更适合人工智能的计算形态，它的优点是具有比传统CPU并行计算更高效率和低延迟的计算性能，在处理物联网场景下的AI应用时，异构计算比CPU的处理效率高30倍以上。张献涛表示。

在过去，异构计算的采购、部署以及使用门槛对绝大多数企业、用户来说都很高，比如小量的用户基本上没有议价能力，特别是购买FPGA板卡，量少的话采购价格特别高。此外，交付周期是另一大痛点，从机型选择、硬件架构设计、供应商选择、机房选择、财务审批通常要几个月时间。采购之后型号就固定了，有新品出现只能追加预算购买，线下的GPU/FP又无法和线上服务打通。

面向多场景的异构计算加速平台

张献涛指出，云已经证明了是提供计算能力的最佳交付方式，所以把GPU/FPGA的计算能力放在云端对外服务是一件再自然不过的事。

“阿里云在短时间里先后推出弹性GPU和FPGA解决方案，目的就是降低异构计算资源使用的门槛，对人工智能有计算需求的企业可以随买随用。”张献涛表示，

2

云是计算能力的放大器

 

相比CPU，GPU有更高的并行度、更高的单机计算峰值、更高的计算效率；而FPGA则拥有更高的每瓦性能、非规整数据计算更高的性能、更低的设备互联延迟。

“云是计算能力的放大器，将GPU和FPGA解决方案部署在云端意味着优势的进一步放大。”张献涛介绍，虚拟化技术让GPU/FPGA的计算资源可以即买即用，弹性伸缩，无需担心性能瓶颈，还能以更低的价格享受到性能更强的GPU/FPGA计算能力。

同时，阿里云提供了从产品、服务、生态各维度的人工智能平台服务，满足企业在人工智能领域不同层次的需求，比如用户可以在阿里云异构平台上快速搭建TensorFlow深度学习框架，同时调用视频识别、图像识别、语音识别等服务，开发出类似ET工业大脑、环境大脑的应用服务，这跟此前需要东拼西凑还要运维的创业方式相比，体验和效率完全不同。

 

 “我们提供了25/100Gb ROCE走RDMA协议直连，可以多机多卡，用非常多的GPU/FPGA设备集群来共同训练一个模型，大大减少用户训练的时间，从几周到一个月缩短到一天或者几个小时的级别。”张献涛强调。

3

异构计算的未来：GPU、FPGA、ASIC三分天下

 

从市场角度来看，GPU处理器占据了异构计算的主流地位，但对未来的趋势，张献涛表示，“随着FPGA的生态环境的建立和完善、ASIC芯片的逐渐成熟，未来异构计算领域会呈现GPU、FPGA、ASIC芯片三分天下的局面，GPU、FPGA、ASIC芯片都会有自己独特的特长和应用领域，有自己独特的客户群体。”

阿里云提供同时覆盖Intel和Xilinx两大FPGA厂商的解决方案

 

这也是张献涛团队专注的方向，接下来团队会发布包括8卡/16卡GPU产品、下一代的Volta架构的GPU产品、新一代的FGPA的产品，而ASIC芯片的产品上云也正在研发当中。

 

目前他所带领的团队主要有两个目标：一方面致力于让异构计算变成用户即买即用的计算资源，提供最为全面的异构计算产品方案；另一方面致力于让用户能够用好异构资源，充分发挥云上各个产品之间的统一调度能力，让阿里云在人工智能方面的服务更具备竞争力，把异构计算变成一种普惠的计算能力。

  

在10月11日举行的2017杭州云栖大会上，阿里云还将推出更多个性化的人工智能产品及服务，期间将有20余场人工智能相关的峰会和分论坛，涉及基础设施、AI基础技术、AI产品以及AI行业解决方案等领域。阿里巴巴及合作伙伴将分享AI在数据中心、电子商务、工业制造、城市管理、艺术设计等行业的前沿经验，并展示最新技术。

点击阅读原文了解更多2017杭州云栖大会信息