【财富空间】Hardware Club管理合伙人杨建铭:人工智能真正的主战场在硬件 | 行业前沿

2019 年 4 月 30 日 产业智能官

本文原文载自风传媒杨建铭专栏



杨建铭专栏
https://www.storm.mg/article/346000


主编点评:人工智能乍看之下重点在软件,其实如果没有芯片厂商的技术支持,人工智能也是孤掌难鸣,这也是为什么现在很多做AI和IoT的企业都要积极和芯片大厂建立合作关系的原因。







作者简介:杨建铭,现任巴黎风险资本公司Hardware Club管理合伙人。台湾大学电机学硕士、法国HEC Paris MBA,CFA持证人,过去曾在亚洲、硅谷和欧洲半导体行业从业十二年,包含创业四年。




在创业浪潮中,大多数投资人和创业者口中念念有词的“软件创新”,其实毫无依据可言。


不过,如果可以,我也想投资一个研发SaaS商用软件的初创企业,看看他们如何用最少的资金做出MVP(Minimum Viable Product,最小可用产品),然后用社群的方式获得众多使用者,每周根据用户反馈迭代产品,再针对进阶使用者每月收取费用,最后以5亿美元的价格出售给Salesforce这样令人景仰的SaaS企业。


但要真有这样的好事,干脆自己创办公司好了。事实上,在动态均衡的商业世界里,没有任何一种商业模式或者产业具有永久的投资优势。


兴起于2004年的创业浪潮给世界带来了脸书、推特、Youtube、Dropbox、Uber和Airbnb等日常生活的应用软体,也催生了一批非工程背景且未曾创过业的新型风险投资人,他们在各种创业活动中转来转去,以看似老练的口吻问创业者,“每月活跃用户量是多少?”


图片来源于网络


但在低门槛的创业和投资环境中,伴随而来的是激烈的市场竞争。不管是创业者,还是风险投资人,都希望用“烧钱”的方式来获得市场份额。最终给行业带来的恶劣影响是,创业公司融不到钱,投资人也赚不到钱。


如今,人工智能行业也呈现这一发展趋势。最近几年,行业充斥着各种人工智能取代人类的观点。事实上,任何有点社会经验的人都可以想象出一款“用AI取代人类”的创新应用,但唯一不同的地方在于,要开发这样的应用需要的不止是能够写程序代码,还需要懂得机器学习的数学专家。



AI创业前提是取得训练模型应用资料



一些初入投资领域的投资人们,忙不迭地把钱投进“能够描绘某种AI使用情境”的软件创新中。


当然,稍微谨慎一点的投资人们,也会找来一些从事相关研究的教授或博士班学生来帮忙做尽职调查,以求避开明显的骗子创业者。


但是,不管是哪一种方式,很多公司虽然打着“用AI取代人类”的口号,却仍然无法解决两大挑战。第一,就算绝顶聪明的数学家或资料科学家,如果无法取得训练模型应用的资料也是白费功夫;另一个则是纯AI软件公司在创业初期常常忽略硬件计算能力的重要性。




硬件计算能力常被忽略



此前,我在《软件吃掉世界,AI吃掉软件》一文中曾提到,新兴科技创业如此火热的一大原因是芯片运算能力远大于终端应用软件,但机器学习的出现可以轻松解决这一难题。所以,行业就开始不在乎硬件的发展。


图片来源于网络


如果对机器学习感兴趣的投资人或者创业者,可以去看看麻省理工教授Song Han的博士论文《深度学习的高效率演算法和硬件》以及讲座视频《卷积神经网络在影像辨识上的应用》,看完之后就能更理解为什么AI真正的主战场在硬件。


其中,讲座使用的术语大约有三四成与机器学习和深度学习相关,剩下的术语却都是所有半导体产业的“老人”们再熟悉不过的中央处理器、图形处理器、每秒峰值速度、记忆体频宽等等。


如果直接去阅读Song Han的博士论文,老半导体人会看到两个很亲切的名字:论文的主要指导教授Bill Dally(比尔·戴利)以及协同指导教授Mark Horowitz(马克霍洛维茨)。其中,Dally教授所著作的教科书《Digital Systems Engineering》几乎所有电机本科生人手一本,而Horowitz教授则是半导体研究领域“高速数位串流介面”的权威。


Song Han则在这两位半导体老将的指导下完成这篇博士论文,而且还录制了《卷积神经网络在影像辨识上的应用》视频课程。其中提到:现在的中央处理器或图形处理器,运算速度和耗能都无法应付现有机器学习演算法可能的运算需求,因此软硬件协同开发是必要的。



一般的创业者和投资者也都比较能理解运算速度的重要性,但只有少数人能真正理解耗能的重要性,因为在过去十多年的创业浪潮中,耗能是高通、苹果和三星这些企业面临的问题。



耗能是机器学习中的大挑战



在机器学习中,耗能是一个很大的挑战,甚至会成为效能的障碍。一般来说,机器学习的耗能主要来自两个领域。


图片来源于网络


第一,矩阵乘法。所建置的神经网络越多层,每一层的神经元数越多,所需要运算的矩阵乘法就越多。而半导体逻辑芯片的乘法是由NAND(计算机闪存设备)闸组合出来的,每一个电晶体的节点都会在电压上下摆动的过程中消耗能量。考虑到矩阵乘法所需要用到的逻辑闸数量惊人,而且随着神经元和系数的增加以指数成长,这部分运算的耗能也就将形成指数级增长。


第二,记忆体存取。类神经网络的运算需要大量而且高速的记忆体存取,主处理器和记忆体模组通常是不同的芯片,因此存取发生在印刷电路板上,大量的能量会被耗损在对抗印刷电路板和芯片封装的杂散容和电阻上。


耗能剧烈的第一个影响是电力成本。以击败李世石的AlphaGo为例,该系统使用了1920个中央处理器和280个图像处理器,光下一场棋局的电费就高达三千美元,相比之下李世石本人下这场局可能只需要一两碗饭的热量,“电”脑和“人”脑在耗能效率上仍然有天壤之别。


耗能不仅是成本高的问题,最大问题在于耗能会转换成废热,这些废热必须排出去才能让系统正常运转。但系统耗能产生废热的速度根据运算量成指数增长,排除废热的速度却受限于热力学和流体力学有着线性的特质,因此,演算法并不是泛用型人工智能发展的阻碍。


在Song Han的讲座中,他介绍了各种软件演算法和硬件芯片结构协同的最佳方式,以应付机器学习中training(训练)和inference(推论)两个部分的耗能效率挑战。但不管哪一种方式,从工程角度来看都是短期的。在摩尔定律多年前早已停止改善耗能的事实下,这些贴贴补补之类的解决方案并无法提供一条通往人工智能发展的康庄大道。


这也是风险投资人致力于寻找半导体逻辑运算以外的解决方案的原因。量子计算机可能是其中一种解决方案,而且在理论上能够应付无限延伸的机器学习运算需求。


只不过,量子计算机的问题在于,目前不管是创业公司还是谷歌、IBM,甚至英特尔这些巨头,都必须把温度降低到绝对零度附近才能进行量子计算。但是,地球上的降温系统本身就是一个极为耗能的装置,要等到综合能源效率和建置成本到达可以和半导体芯片相比拟,恐怕还需要不少时间。


那么,有没有其它的方式呢?答案或许存在自然界里,就像是量子计算机采用物理特征进行运算,自然界也有许多物理现象包含了矩阵乘法的特质,也许可以找到一种运算方式,是将资料转换成自然界的物理现象,在那里完成运算,然后再汇总到电脑系统中。


这种运算系统称为“类比运算”,其实是一门很古老的学问,远在芯片高速成长的年代之前,几乎所有的运算都是在类比世界中发生的。作为投资者,非常期待能有善用类比运算来加速机器学习的创业者出现。


- END -

工业互联网+智能制造




产业智能官  AI-CPS


加入知识星球“产业智能研究院”:先进产业OT(工艺+自动化+机器人+新能源+精益)技术和新一代信息IT技术(云计算+大数据+物联网+区块链+人工智能)深度融合,在场景中构建状态感知-实时分析-自主决策-精准执行-学习提升的机器智能认知计算系统实现产业转型升级、DT驱动业务、价值创新创造的产业互联生态链



版权声明产业智能官(ID:AI-CPS推荐的文章,除非确实无法确认,我们都会注明作者和来源,涉权烦请联系协商解决,联系、投稿邮箱:erp_vip@hotmail.com。




登录查看更多
0

相关内容

宋涵是麻省理工学院EECS的助理教授。他在斯坦福大学获得博士学位。他的研究重点是高效的深度学习计算。他提出了“深度压缩”技术,可以在不损失精度的情况下将神经网络大小减少一个数量级,以及首先在深度学习加速器中利用剪枝和权重稀疏性的硬件实现“高效推理引擎”。他的团队在硬件感知神经架构搜索(ProxylessNAS、Once-for-All Network (OFA)、MCUNet)方面的工作被集成到 Facebook、 亚马逊、微软,在旗舰 AI 会议中获得六项低功耗计算机视觉竞赛奖项。Song 在 ICLR'16 和 FPGA'17 中获得了最佳论文奖,以及来自亚马逊、索尼、Facebook、NVIDIA 和三星的多个教师奖。宋被麻省理工科技评论评为“35 位 35 岁以下的创新者”,以表彰他对“深度压缩”技术的贡献,该技术“让强大的人工智能 (AI) 程序在低功耗移动设备上更高效地运行”。宋因“用于加速机器学习的高效算法和硬件”而获得 NSF CAREER 奖和 IEEE “AIs 10 to Watch: The Future of AI”奖。
商业数据分析,39页ppt
专知会员服务
162+阅读 · 2020年6月2日
《人工智能2020:落地挑战与应对 》56页pdf
专知会员服务
197+阅读 · 2020年3月8日
【德勤】中国人工智能产业白皮书,68页pdf
专知会员服务
304+阅读 · 2019年12月23日
2019年人工智能行业现状与发展趋势报告,52页ppt
专知会员服务
124+阅读 · 2019年10月10日
CBInsights公布32家AI独角兽名单:中国10家美国17家
1号机器人网
5+阅读 · 2019年2月18日
Gartner:2018人工智能技术成熟度曲线
物联网智库
4+阅读 · 2018年8月17日
PPTV创始人姚欣:人工智能到底怎么赚钱?
徐小平讲了个投资奇迹,3年不到75万变3亿
钛媒体
5+阅读 · 2017年12月15日
"AI+教育"是虚火还是风口?
数据玩家
3+阅读 · 2017年12月14日
中央再批人工智能伪创新,90%以上AI都不靠谱
THU数据派
7+阅读 · 2017年12月6日
已删除
哈佛商业评论
4+阅读 · 2017年11月1日
【人工智能】人工智能5大商业模式
产业智能官
16+阅读 · 2017年10月16日
Arxiv
5+阅读 · 2020年3月26日
Position-aware Graph Neural Networks
Arxiv
15+阅读 · 2019年6月11日
Arxiv
5+阅读 · 2018年5月28日
Arxiv
10+阅读 · 2018年2月9日
VIP会员
相关资讯
CBInsights公布32家AI独角兽名单:中国10家美国17家
1号机器人网
5+阅读 · 2019年2月18日
Gartner:2018人工智能技术成熟度曲线
物联网智库
4+阅读 · 2018年8月17日
PPTV创始人姚欣:人工智能到底怎么赚钱?
徐小平讲了个投资奇迹,3年不到75万变3亿
钛媒体
5+阅读 · 2017年12月15日
"AI+教育"是虚火还是风口?
数据玩家
3+阅读 · 2017年12月14日
中央再批人工智能伪创新,90%以上AI都不靠谱
THU数据派
7+阅读 · 2017年12月6日
已删除
哈佛商业评论
4+阅读 · 2017年11月1日
【人工智能】人工智能5大商业模式
产业智能官
16+阅读 · 2017年10月16日
Top
微信扫码咨询专知VIP会员