AlphaGo Zero的伟大与局限—ResNet作者、旷视研究院院长孙剑深度评述

2017 年 10 月 21 日 机械鸡 大咖说

2017年10月19日,Deepmind 团队发布强化版的 AlphaGo Zero,该版本的 AlphaGo 实现了在 AI 发展中非常有意义的一步——“无师自通”,这也让去年败在未升级版本 AlphaGo Master 下的中国棋手柯洁惊呼“人类太多余了”。


而值得注意的是,该版本的 AlphaGo 所采用的其中一个重要环节是诞生于华人团队的深度残差网络(ResNet)。


旷视科技首席科学家、旷视研究院院长孙剑


就此背景,旷视科技Face++首席科学家孙剑博士作为深度残差网络 ResNet 作者之一,特别接受了多方媒体的专访并对这次的技术升级做了详尽的阐述。在他看来,本次技术提升足够伟大,但在真实技术落地过程中却有着众多局限,并指出未来很长一段围绕大数据的训练模式和有监督的学习方法仍是主流深度学习技术应用的必需方式。


孙剑团队发表的《图像识别中的深度残差学习》

获得 CVPR 2016 最佳论文奖


两大核心要素实现 AlphaGo Zero 极简算法


“我们做研究追求极简祛除复杂。这篇文章最吸引人的地方就在于他们做的减法。首先 AlphaGo Zero 的搜索过程简化了很多,例如把以前系统中的两个网络合并成一个网络、将深度残差网络的输入做最简化。”旷视科技Face++首席科学家孙剑博士在讲到本次 AlphaGo Zero 的技术特点时说道,“此外,AlphaGo Zero 可以把19×19 棋局的二值图像直接送给神经网络,让神经网络看着棋盘做决策,简洁而优美。” 


AlphaGo Zero 学到的围棋知识(图片来源:DeepMind 论文)


孙剑博士在交流中表示,本次 AlphaGo Zero 的提升主要有两个核心要素,一个是启发式搜索,一个是深度残差神经网络,而这两个又非常完美的实现了结合。其中启发式搜索的思想非常朴素,是针对问题设计的一个高级定制版蒙特卡洛树搜索算法。另外的要素则是通过深度残差神经网络让简单的搜索算法极大的提升了效率。


深度残差神经网络(ResNet)是2015年由孙剑所带领的微软视觉计算团队率先提出,并在当年的 ImageNet 以及 MS COCO 两大技术竞赛中包揽五项冠军,其中最重要的部分就是实现了突破性的 152 层的网络深度,从而让一些非常复杂的函数做映射时的效率与有效性得到极大的提升。强大的网络使的 AlphaGo Zero 可以有能力学习并对落子概率和整体棋局有更精准的判断。


伟大与局限并存


“无师自通”短时间无法成为 AI 主流


“AlphaGo Zero 的伟大之处是第一次让机器可以不通过任何棋谱,不通过任何人类的经验,在只告诉规则的前提下就实现了成为一个围棋高手,这种无师自通的学习模式在 AI 整个发展上是非常有里程碑意义的。”孙剑博士讲到AlphaGo Zero的技术意义时指出,“但是同时这种无师自通在很多 AI 落地上也存在一些局限,因为严格意义上讲,围棋规则和判定棋局输赢也是一种监督信号,所以有人说人类无用、或者说机器可以自己产生认知,都是对 AlphaGo Zero 错误理解。”


“实际上在很多 AI 行业落地中,弱的监督学习或者所谓的无师自通还是无法在短期成为主流。”孙剑博士补充,“比如,就旷视Face++所擅长的人脸识别来讲,这个能力是人类后天学习的能力,是通过时间不断演化出来的一种生存能力,人只有具备了人脸识别能力,人类社会才能正常运转。把这种后天能力输出给机器,其实就需要人的监督信号,包括目前人工智能落地所解决的很多事情,其实都是模拟人类的一种技能,让机器实现这种任务就需要海量的数据与更多的信号输入,所以今天,甚至今后很长一段时间内,监督学习依然是 AI 研究与 AI 商业化的主流方向。”


开放与互通


而讲到 AI 的未来,孙剑博士谈到了开放与互通,并重点讲到每天第一件事情就是去网上开放的论文平台 ArXiv 查看是否有新的、有意思的论文、思想发出来。就 ResNet 被 AlphaGo Zero 应用这个点上,孙剑博士表示:“这次应用在 AlphaGo Zero 中的 ResNet 残差神经网络,曾获得了 CVPR 2016 的最佳论文奖。当然今天我也非常高兴看到这个技术可以应用在 AlphaGo Zero 系统中。但这个应用过程其实并不需要我们直接进行接触而是一种研究成果的交流,人工智能研究最前沿的开源与开放,才能让我们在追求更优解的过程中有很多参考与理论支撑,可以极大的提升新技术产生的周期。”


而作为旷视研究院院长,孙剑博士强调:“和全球研究机构一样,旷视研究院的工作和使命,也是不断分享、开放研究成果,但是更注重的是技术在产业中的实用性。” 2017年7月,旷视研究院团队就在 ArXiv 公开了一篇关于 ShuffleNet 的论文,ShuffleNet 是旷视专为移动端和低功耗设备设计的一种神经网络算法,其实际上也是一种对 ResNet 深度残差网络的改进,发布之后很多业内同行就已经在各自的研发中应用上了。


推荐阅读

世界最大色情网站Pornhub使用AI识别AV

DeepMind发布千年以来最强围棋选手

MIT女教授使用AI检测早期乳腺癌准确率97%

拍人更美!谷歌工程师揭秘Pixel 2手机黑科技

华为新品手机发布会全程回顾

超级计算机图像识别率达人类医生水平

一文读懂语音识别史

打造百度AI大脑的80后科学家

斯坦福发布3D街景数据集

谷歌重磅发布43页Waymo无人车报告


长期招聘志愿者

加入「AI从业者社群」请备注个人信息

添加小鸡微信  liulailiuwang


登录查看更多
1

相关内容

AlphaGo Zero是谷歌下属公司Deepmind的新版程序。从空白状态学起,在无任何人类输入的条件下,AlphaGo Zero能够迅速自学围棋,并以100:0的战绩击败“前辈”。 2017年10月19日凌晨,在国际学术期刊《自然》(Nature)上发表的一篇研究论文中,谷歌下属公司Deepmind报告新版程序AlphaGo Zero:从空白状态学起,在无任何人类输入的条件下,它能够迅速自学围棋,并以100:0的战绩击败“前辈”。Deepmind的论文一发表,TPU的销量就可能要大增了。其100:0战绩有“造”真嫌疑。
【CMU】深度学习模型中集成优化、约束和控制,33页ppt
专知会员服务
45+阅读 · 2020年5月23日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
CVPR2020 | 商汤-港中文等提出PV-RCNN:3D目标检测新网络
专知会员服务
43+阅读 · 2020年4月17日
[CVPR 2020-港中文-MIT] 神经架构搜索鲁棒性
专知会员服务
25+阅读 · 2020年4月7日
新时期我国信息技术产业的发展
专知会员服务
69+阅读 · 2020年1月18日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
163+阅读 · 2019年10月28日
【团队新作】深度强化学习进展: 从AlphaGo到AlphaGo Zero
中国科学院自动化研究所
17+阅读 · 2018年1月31日
CVPR 2017最佳论文 | 解析深度学习中的三大挑战
一张图看懂AlphaGo Zero
AI前线
6+阅读 · 2017年11月17日
Arxiv
14+阅读 · 2020年1月27日
UNITER: Learning UNiversal Image-TExt Representations
Arxiv
23+阅读 · 2019年9月25日
Arxiv
22+阅读 · 2018年2月14日
Arxiv
12+阅读 · 2018年1月28日
VIP会员
相关VIP内容
【CMU】深度学习模型中集成优化、约束和控制,33页ppt
专知会员服务
45+阅读 · 2020年5月23日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
CVPR2020 | 商汤-港中文等提出PV-RCNN:3D目标检测新网络
专知会员服务
43+阅读 · 2020年4月17日
[CVPR 2020-港中文-MIT] 神经架构搜索鲁棒性
专知会员服务
25+阅读 · 2020年4月7日
新时期我国信息技术产业的发展
专知会员服务
69+阅读 · 2020年1月18日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
163+阅读 · 2019年10月28日
Top
微信扫码咨询专知VIP会员