突发!TensorFlow技术主管皮特·沃登离职,重返斯坦福读博:我在谷歌“太难了”!

2022 年 2 月 16 日 极市平台
↑ 点击 蓝字  关注极市平台

来源丨AI科技评论
编辑丨极市平台

极市导读

 

又一技术大咖离开业界,前往高校攻关科研!  >>加入极市CV技术交流群,走在计算机视觉的最前沿

据Pete Warden(皮特沃登)本人推特消息,他将离开谷歌公司,重返斯坦福大学攻读计算机博士学位。

皮特沃登是谷歌公司Tensorflow面向移动和嵌入式设备部分的技术主管,也是 Tensorflow团队的创始成员之一。著有《TinyML》一书,希望让机器学习不再囿于云端超级计算机,而是可以被隐藏于众多小到可以被忽视的电子零件中。

至于离开谷歌的原因,皮特沃登说:在谷歌推出新的硬件设备“太难了”,因为一旦失败会对大公司声誉造成非常大的影响。

“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”

据悉,皮特沃登已经离开校园二十年了,此次重返校园虽然有些冒险,但对“自己能够构建一些东西”有帮助。

皮特沃登还在个人博客写了一篇文章,表达了离开谷歌的前因后果:

我在谷歌工作了7年,这段时间里,很幸运也很自豪能够和一些了不起的人一起研究TensorFlow等项目。在过去几年里,我一直在说“你可以用TensorFlow Lite Micro实现所有美好的TinyML项目”,现在我自己终于也可以随心所欲的尝试构建自己的东西了。

在谷歌我也尝试过,但在谷歌推出新的硬件设备是非常昂贵和耗时的,因为一旦失败会对其声誉造成非常大的影响。因此,时隔二十多年,我决定重返校园,去斯坦福大学攻读计算机科学博士学位。

过去几年,我在斯坦福大学教授EE292D课程,在这过程中,我从学生对新技术渴望的热情中收获了很多,而且也从Zain Asgar、Sachin Katti、 Boris Murmann等教师身上学到了很多。现在我很高兴能够有更多的时间从校园中度过。

TensorFlow Lite Micro在Advait Jain和团队其他成员的带领下非常出色,使用量和人数在过去几年持续增长,所以我对它的未来非常乐观。过段时间,我会公布更多细节,但我现在能够使用将框架部署到”我从项目一开始就梦想的设备“上了。

离开谷歌,重返校园是一次有趣的新冒险,感谢支持我走到这一步的所有人。



1

皮特沃登和他的TinyML梦想

正如前面提到,皮特沃登是人工智能领域的专家。2003年他创建了一组包含45 个图像的处理过滤器(processing filters ),这些过滤器能够在 2003 年的笔记本电脑上以 30 fps 的速度检测视频内容中的特征。当时Apple 购买了该技术并聘请他将其集成到 Apple 的成像相关产品中。

2011年,皮特沃登联合创办Jetpac,担任CTO。当时他开发了一款独特的产品,能够分析了 Instagram 上超过1.4亿张照片的像素数据,并将其转化为全球 5,000多个城市的深度指南。2014年,谷歌收购该公司。

加入谷歌之后,皮特沃登专注于在成本和功率受限的系统中部署机器学习。在谷歌,Pete 领导开发用于移动和嵌入式应用程序的 TensorFlow Lite 机器学习框架。

这种在一些“不起眼的硬件”中构建机器学习被行业称为TinyML(Tiny Machine Learning)。TinyML 的目标是以尽可能低的功耗执行 ML 推理。具体而言,正如皮特沃登在其著作提到的那样:TinyML 的目标是在低于 1 mW 的功耗下运行。1 mW是标准纽扣电池运行功率。

TML示意图

因此,TinyML 是机器学习和嵌入式 IoT 设备的交叉领域,是一门新兴的工程学科,具有革新许多行业的潜力。显然,TinyML 的主要受益者,是边缘计算节能计算领域。

2019年3月,TensorFlow Lite嵌入式平台发布了第一个实验原型。这是由SparkFun构建的开发板的原型,它有一个Cortex M4处理器,具有384KB的RAM和1MB的闪存存储。该处理器功率极低,在许多情况下功耗不到1毫瓦,因此它可以仅凭小型纽扣电池运行很多天。

目前,TinyML还处在发展阶段,正如皮特沃登在一次演讲中所提到:

“未来的世界有更多的可能性,现在人工智能对于我们,就像八十年代的电脑一样。我们不知道它会发展成什么样子,但是我们可以想象一下我们目前面对的各种问题和挑战,在工作中面临的困难。如何用小小的芯片进行机器学习?这方面我们可以有新的角度去探索,也有新的研究成果去发挥作用。”



2

反映了怎样的趋势?

皮特沃登在业界已经探索了二十年了,今日他选择离开企业,选择重返校园,无疑是对当前AI研究人员纷纷重返学界这一趋势的印证。

这一趋势最早从吴恩达开始,随后李飞飞、张潼、张亚勤、贾佳亚等科学家也不断重返学校。

而在几年前,对应的正是AI基础研究者纷纷离开学术界,加盟工业界:代表性的标志事件是在2011年的NIPS大会上,Hinton接受了Google的邀请,正式加盟Google;此后Facebook、Amazon、Uber以及国内百度、阿里、腾讯、滴滴等巨头也纷纷跟进,而另一方面,产业界所能提供的海量数据以及资源投入对于AI研究者也具有莫大的吸引力,长期从事理论研究的他们也需要一个平台验证他们的想法,这也正是当时AI人才从学术界流向产业界的原因。

现在这些AI大牛从产业界重返学术界,有人将其视为AI科学家的“水土不服”,并进而得出“AI热度正在放缓”的结论。但从另一个角度上,我们也可以看到这些科学家们在产业界检验了自己之前的研究之后,带着新的问题回到学术界开展新的研究。

例如,原腾讯AI Lab主任张潼在被问及为什么回归学术界时,他回答:“我最关心的是10年以后, AI能够在技术理论等方面实现重大的突破,并且自己能够在整个学术研究上有更多的贡献。” 而对于加入创新工场,张潼则表示:“我在进行学术研究的同时,也希望这些学识成果能够跟产业相结合。”另一位AI大牛贾佳亚,在离开腾讯优图之后并未远离产业界,而是成立了一家创业公司思谋科技,以另一种方式做到连接学术与产业。 

拿AI届的黄埔“微软亚洲研究院”来说吧,他几任历任院长中,李开复创办了创新工场,以孵化器模式推动中国本土的科技与AI公司的发展;张亚勤牵头筹建“清华大学智能产业研究院(AIR)”,回归学术界并得到了马维英的襄助,“出走半生归来仍是少年”;沈向洋在担任清华大学兼职教授的同时,也还投资并担任News Break董事长;而进入投资界的张宏江,更是在以资本投票的方式践行着对AI的认知。这些顶尖人才的流动,无论是从学术界到产业界,还是从产业界到学术界,最终都是AI的进步。

参考链接:
https://mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
https://mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
https://embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/



公众号后台回复“数据集”获取30+深度学习数据集下载~

△点击卡片关注极市平台,获取 最新CV干货
极市干货
数据集资源汇总: 10个开源工业检测数据集汇总 21个深度学习开源数据集分类汇总
算法trick 目标检测比赛中的tricks集锦 从39个kaggle竞赛中总结出来的图像分割的Tips和Tricks
技术综述: 一文弄懂各种loss function 工业图像异常检测最新研究总结(2019-2020)


CV技术社群邀请函 #

△长按添加极市小助手
添加极市小助手微信(ID : cvmart4)

备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳)


即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群


每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~


觉得有用麻烦给个在看啦~   
登录查看更多
0

相关内容

TensorFlowLite:端侧机器学习框架
专知会员服务
32+阅读 · 2020年8月27日
TensorFlow Lite指南实战《TensorFlow Lite A primer》,附48页PPT
专知会员服务
69+阅读 · 2020年1月17日
【干货】谷歌Joshua Gordon 《TensorFlow 2.0讲解》,63页PPT
专知会员服务
27+阅读 · 2019年11月2日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
163+阅读 · 2019年10月28日
我离开谷歌,决定创业后的几点感悟
AI前线
0+阅读 · 2022年4月5日
TensorFlow Lite 设备端训练
TensorFlow
4+阅读 · 2021年12月20日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月19日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员