点击上方“黑智”,选择“置顶公众号”
黑智专注AI落地,探讨AI商业价值
更多创业内容请访问http://www.iheima.com/scope/79
(点击图片参加2019人工智能产业独角兽评选)
文 | 李夜
依图造芯,知难而进。
依图科技造自己的AI芯片,不是一件简单的事情。用依图科技联合创始人兼CEO朱珑的话来说,AI芯片其难有三:没有典型场景应用没有意义,没有超越英伟达的芯片没有意义,没有世界级的算法没有意义。
三难,分别指向三个问题:用在哪,为谁而用;芯片怎么做,怎么做得好;AI时代,芯片如何结合人工智能的路径。
在演讲中,朱珑以球举例向现场观众“诉苦”今天做AI芯片有多难?跟恒大全华班踢赢皇马差不多。“更惨烈的一件事情是,做一款AI芯片是没有意义的,要连续做几款有竞争芯片,这家公司、这个团队才能存活得下来。
这好比恒大得持续跟皇马有得踢,第二年,踢完球就散架了,没有意义。你不只是要踢得过,你要踢得赏心悦目,要有质量。不是高工资就有可能性。不是投资更大就有更高可能性。”
这个例子背后也有一个无法回避的尴尬——中国AI芯片人才少得就像大熊猫一样。清华大学的报告《 人工智能芯片研究报告》显示, 人工智能芯片领域的学者主要分布在北美洲、其次是欧洲。详见下图。人才稀缺如此,其难度可想而知。
但依图科技还是决定做自研芯片。朱珑庆幸依图科技生在上海,上海拥有完整的芯片产业链及人才,并遇到了熠知电子科技这样的搭档,才得于5月9日召开发布会,发布自研云端视觉推理AI芯片questcore™,以及基于该芯片构建的软硬件一体化系列产品和行业解决方案。
依图发布的AI芯片questcore™名为“求索”。
“求索”出自《楚辞·离骚》:“路漫漫其修远兮,吾将上下而求索。”这句话是中国人的常用语,追求真理的人,多用它形容自己的决心与坚韧。
依图的“求索”长什么样?
在发布会现场的插电演示中,依图科技首席创新官吕昊手持一台体积与15 英寸苹果 MacBook Pro笔记本相当的依图原子服务器,成功带动200路摄像头同时完成实时智能视频分析任务。
官方介绍称,依图questcore™基于拥有自主知识产权的芯片架构,针对依图世界领先算法做了专门优化,能够充分发挥依图在机器视觉领域的专业积累和行业知识,适用于人脸识别、视频结构化分析、行人再识别等多种图像和视频实时智能分析任务。
在实际的云端应用场景,依图 questcore™ 最高能提供每秒15 TOPS的视觉推理性能,最大功耗仅20W(比一个普通的电灯泡还小)。在同等功耗下,依图questcore™产品的视觉推理性能是市面现有主流同类产品的2~5倍。
依图原子服务器基于questcore™ 打造,一台服务器提供的算力与 8 张英伟达P4卡服务器相当,而体积仅为后者的一半,功耗不到20%。在进行视频解析时,1台依图原子服务器(搭载4核 questcore™芯片,除此之外无需其他配置),与8卡英伟达T4服务器(含双核英特尔 x86 CPU)对比,单路视频解析功耗仅为后者的 20%,与8卡英伟达P4 服务器(同样含双核英特尔 x86 CPU)相比,功耗约为后者的10%。
和寒武纪相比,吕昊认为寒武纪发布的芯片,以深度加速器为主,并不是集成度比较高的系统级芯片。在发布会现场,依图科技方并没有对比寒武纪的产品。
求索芯片解决三难的路径是——算法即芯片,“过去,是摩尔定律,是脱离,广义计算脱离AI算法,脱离算法智能为谁而算的目的。今天,跟最伟大公司竞争,我们只能找对问题,用对的算法,并且为这两件事情定制芯片,这才有可能做出性价比比别人高的芯片。”具体来说,求索设计理念有四点:第一点,高密度。“我们不是追求高算力,因为英伟达有100T、200T的芯片”,他认为芯片市场上不讲芯片大小、密度多少、功耗多少,是“偏颇”的。
第二点,世界级AI算法,AI芯片之所以称之为智慧,离不开“最顶级的算法”。“最顶级的算法才能体现最大的算力。”
第三点,单芯片50路视频解析。视觉理解的算力是非常重要的算力。朱珑用大脑解释,“大脑当中有30%的神经元是传递信号的。我们能量更多用在看上,今天,我看你,识别你,识别他,用的能量比解一道数学题用的能量还多。”
第四,服务器芯片。“大家可能听到很多芯片是端侧的芯片或者是其他芯片,这个难度至少差100倍,我们不做大家都能做的,是服务器的芯片。目前为止还没有云端的这种统一的视觉推理芯片。”
在4条“红线”之下,设计内容贵在平衡,也即CPU计算、AI计算、内存和数据通信平衡。如何设计与平衡,依图科技在台上以及会后的专访中没有给出细节。依图科技没有透露的还有AI芯片团队的人数、投入成本、具体售价等。2017年开始做,历时两年,是他能够透露的最大极限。
“做芯片的投入非常大,门槛非常高,有非常多的投入,研发周期也非常长,肯定要非常清楚地考虑到你做完这个芯片能卖多少钱,对不对?我们还是比较精明的商人,一定是考虑清楚这个问题的。”
目前,可以确定的是,得益于上海中国集成电路桥头堡的地位,依图科技在组建团队的时候,“能够非常顺利招到一个经验非常丰富的团队。几乎是芯片全链路的人员。如果没有人在某个环节,只能外包,但这么精细的事情被外包,你想超过英伟达,想超过英特尔,几乎不可能,英特尔10年也没超过英伟达,一个环节的缺失是非常可怕的。”还可以确认的是是台积电在南京的工厂帮助依图科技生产芯片。
还可以肯定的是,依图科技与熠知电子科技是“非常垂直整合的”,不是熠知干熠知的事情,依图干依图的事情,“那跟传统芯片软件商没有区别了?”
“你看以前的芯片厂商,像英特尔,经历了非常辛苦的历程,他做了一个芯片,但不知道别人在芯片上跑什么程序。不知道跑什么程序,它就无法做优化。现在的芯片知道跑什么样的模型,知道在哪里用,知道做什么样的优化。
这需要两个团队非常紧密地耦合在一起做设计,做验证。而不是你告诉我AI世界长什么样子,我做一个东西给你,更多是跑实验,做验证,确定可行性。芯片出来怎么做验证,怎么做测试都是一起的。”吕昊说,他个人非常敬佩合作伙伴。
吕昊还透露,第二代芯片、第三代芯片早就开始做了。
求索芯片商业化的困难才刚刚开始。
目前,求索芯片还是自产自销,主要用于服务自己的硬件产品和解决方案。“第一步可能先在那些场景当中取代已有的产品。”在发布会现场,依图科技公开的视觉推理场景有人脸识别、动作识别、肺癌诊断、骨龄检测、人体接力、车辆识别、药物结合模式预测、自动驾驶等。
不过,在吕昊答记者问中,可以看出依图的自信。有记者问:目前客户接受度怎么样?吕昊答:我们正在签很多单子。另一记者又问:初期产品,谁买单?是政府集成商还是自己寻找客户?吕昊说,都有。“依图都有,依图现有的商业模式有渠道,有集成厂商,还有CIM,也可以直接卖给非常大的客户,非常大的2B客户。”
短期内,依图科技不会搭建生态。吕昊说这是一件很难的事情。“现在,我们讲的是云端服务器,我们卖私有云,我们卖一个机房建一个私有云服务器,从这种角度来说,是比较容易的。”
他认为依图抓住了比较优势,“要做一个非常通用公有云,很多需求进来,这时候,大大增加你的工作量和系统复杂度。有非常多的碎片化需求,一个企业是不是高效,能不能做好这些系统化集成是需要非常强的执行力的,这不是初创公司能够做的事情。”
做芯片,依图科技笃信一个观点是“比英伟达强才有生存空间”。在演讲中,朱珑也强调这一点,并将之列为做AI芯片的三难之一。值得一提的是,英伟达目前正在做一些定制化的、专门为机器学习定制的集成电路。它走的方向也是通用集成电路。
特斯拉专门为自动驾驶打造了专属芯片,这个消息吓了朱珑一跳,当他了解到特斯拉芯片的团队也就释怀了。特斯拉自动驾驶芯片负责人皮特•班农(Pete Bannon)曾在苹果供职八年,负责苹果A5芯片开发。传奇芯片设计师 Jim Keller也曾为特斯拉工作过。“你一定做出区别,才有可能打开你的产品市场。如果你的产品和别人的区别不大,只是把两个机柜变成一个机柜或者变成一个半机柜,是没用的。”
在会上,朱珑提到摩尔定律已经结束了,摩尔定律结束意味着软件厂商什么也不干,算法快一倍的日子结束了。“如何有效利用这些晶体管做更快速的事情,需要硅片以上厂商一起协作来把这件事情做好。垂直整合厂商的好处是,最快、最敏感,因为芯片厂商不懂算法,算法厂商不懂应用。
做算法的人不懂应用,做应用的人又不懂技术,把这些全融合在一起才能最先看到什么芯片最有用、什么算法最好,最先看到设计什么样芯片,赋能什么样算法和应用,今天我们演示也想说这样垂直整合相信是非常有前景的,非常快做出非常好的芯片,非常快做出非常快的算法,不管对集成电路,对做芯片,还是对做算法的也好,可能都会比我们在市场上有一定的。”
显然,看到了这个机会的依图,虽然知道困难重重,仍准备赌一把。
在演讲最后,朱珑的结束语让人印象深刻,这个冷静而严谨的理科生,感性地表示,“科技进步极大降低了创新所需的经济门槛,但是伟大所需的精神门槛——勇气,从来没有降低过。”
只是不知道今日他的勇气,和7年前创立依图科技相比,是增是减,还是始终如一?
*本文系黑智原创,作者李夜。黑智,关注AI落地与AI商业价值。
黑智专访
驭势科技 | 搜狗 王小川 | 云知声 黄伟 | 格灵深瞳 赵勇 |出门问问李志飞Roboteam Yossi Wolf | 小鱼在家 宋晨枫 | 奇点机智 林德康 | Rokid Misa | 瑞为智能 詹东晖 | 极限元智能科技 雷臻 | 乂学教育 栗浩洋 | 暴风科技 冯鑫 | 销售易 史彦泽 | 普强信息 何国涛 | 真机智能 刘智勇 | 纳人 姜海峰 | 众趣科技 高翔 | 深之蓝 魏建仓 | 扩博智能 严治庆 | 视见医疗 王峰 | 拍拍赚科技 汤劲武 | 图森未来 陈默 | 智齿客服 徐懿 | 甘来 曹文斌 | ROOBO 刘颖博 | 银河水滴 黄永祯 | 知盛数据 王晓梅 | 所问数据 颜鹏 | 趣链 李伟 |云脑科技 张本宇 | 品友互动 黄晓南 | 擎朗智能 李通 | 百分点 苏萌 | 飞步科技 何晓飞 | 物灵科技 顾嘉唯 | 臻迪科技 郑卫锋 | 极米科技 钟波 | 蓝箭航天 张昌武 | Roadstar.ai 佟显乔 | e换电 黄嘉曦 | 智芯原动 崔凯 | 悉见科技 刘洋 | 宽凳科技 刘骏 | 创新奇智 徐辉 | 狮桥集团 万钧 | 亿方云 程远 | 阅面科技 赵京雷 | 深兰科技 陈海波 | 高仙机器人 程昊天 |飞步科技 何晓飞 | 京东 宋春正 | 华云数据 许广彬 | 澎思科技 马原
投资人说
云启资本 黄榆镔 | 松禾远望资本 程浩 | 英诺天使基金 李竹 | 线性资本 王淮 | 九合创投 王啸 | 纪源资本 肖鸿达 | 戈壁创投 徐晨 | 百度风投 刘维 | 明势资本 黄明明 | 蓝图创投 候东 | 蓝驰创投 陈维广| 隐山资本 董中浪