【科普】吴飞教授:《走进人工智能》---第11讲 从摩尔定律到黄氏定律:人工智能算力之源∣达依尔的麦粒:指数爆炸

2022 年 4 月 20 日 中国图象图形学学会CSIG
由高等教育出版社、高等教育电子音像出版社出品,浙江大学上海高等研究院联合上海人工智能实验室智能教育中心共同打造了原创人工智能前沿科普有声通识数字栏目——《走进人工智能》,主理人为浙江大学上海高等研究院常务副院长,浙江大学人工智能研究所所长、中国图象图形学学会理事、动画与数字娱乐专业委员会副主任 吴飞教授 ,本栏目已在喜马拉雅平台正式上线。




本期内容为《走进人工智能》:第11讲 从摩尔定律到黄氏定律:人工智能算力之源∣达依尔的麦粒:指数爆炸

《走进人工智能》

第11讲
从摩尔定律到黄氏定律:人工智能算力之源

你好,这里是吴飞的数字专栏《走进人工智能》。上一讲中我们介绍了“从单通道独奏到多通道协同:跨媒体计算”。在专栏的第十一讲,我为你准备的内容是“从摩尔定律到黄氏定律:人工智能算力之源”。前面我们说过,在智能应用中,“数据是燃料、人工智能是引擎”,构成人工智能引擎的核心元件则是由成千上万个晶体管组合而成的芯片。“凡事预则立,不预则废”,在二十世纪七十年代,英特尔(Intel)创始人之一的戈登·摩尔(Gordon Moore)预测“计算机芯片所包含的晶体管数目每隔18个月就会增长1倍、性能也将提升1倍”,这被称为“摩尔定律”。“摩尔定律”推动着计算机所展现的算力不断提升,在数据密集型计算范式时代使得人工智能在自然语言理解、视觉分析和语音识别等领域获得了空前发展,赋能社会。这一讲中我主要介绍摩尔定律的增长速度、摩尔定律发展历史和人工智能时代的算力增长这三部分内容。

达依尔的麦粒:指数爆炸

在开始讲解摩尔定律之前,我们先通过几个故事来理解摩尔定律中提及的晶体管数目的增长速度。

相传国际象棋的前身是由古印度舍罕王(Shirham)的宰相达依尔(Dahir)发明的。舍罕王为了表彰这一发明,便问达依尔需要什么赏赐。达依尔说,只要在象棋64个方格的第一个格子上放1粒麦子、第二个格子上放2粒、第三个格子上放4粒、第四个格子上放8粒,如此递推,也就是每一个次序在后的格子中放的麦粒都必须是前一个格子麦粒数目的2倍,直到第64个格子放满。国王爽快地答应了达依尔看似谦卑的请求。不料随后发现,全印度的麦子竟然无法放满棋盘一半的格子。实际上按照这样的方法,摆放的麦粒数目是264-1这样的天文数字。假设一立方米空间可摆放1500万粒麦子,那么摆满棋盘所需的麦粒将占用12000亿立方米,这相当于人类要用500多年才能生产出来的麦子的总量。一个人如果每秒钟能数两粒麦子,每天24小时不停工作,那么需要1400亿年才能数完这些麦粒。

英国的政治经济学家、人口学家马尔萨斯(Malthus)在《人口原理》(An Essay on the Principleof Population)一书中指出:人口按几何级数增长,而食物等生活资源只能按算术级数增长,所以不可避免地要导致饥荒、战争和疾病。根据美国政府1790年到1820年中每十年所做的人口普查的数据,马尔萨斯给出了人类人口数目每隔20多年会增长一倍的预测。马尔萨斯的理论被称为“两个级数”,也就是“如果人口不受限制的话,就会以几何级数增长;而食物则仅仅以算术级数增长。”应该说,与当今世界人口增长趋缓和食物增产增收的情况相比,马尔萨斯所提出的“两个级数”思想具有一定的历史局限性。

上述故事都指向了一个数学概念,即事物成倍成倍增长,犹如大爆炸一样,这就是 “指数爆炸”。指数爆炸式增长带来了可观的增长结果,比如1毫米厚度的纸张如果可以折叠103次,厚度将超过已知宇宙的直径。在经济学上,这一增长方式被称为“复利(compound interest)”。所谓复利是指在计算利息时,某一个计息周期的利息是由本金加上先前周期所积累的利息总额来计算的计息方式,也就是通常所说的“利滚利”。

互联网上有一个未经考证的故事,曾经有人问爱因斯坦:“世界上最强大的力量是什么?”,爱因斯坦给出的回答是“复利和时间”。

产品名称:走进人工智能∣有声通识十五讲

主理人:吴飞

出品机构:高等教育出版社 、高等教育电子音像出版社

合作机构:浙江大学上海高等研究院、上海人工智能实验室智能教育中心

出品时间:2022年1月





关于开展“2022 年度高等学校科学研究优秀成果奖(科学技术)-青年科学奖” 提名工作的通知
中国图象图形学学会关于开展“决策咨询专家团队”建设工作的通知
《Visual Intelligence》英文刊编辑招聘启事
关于开展2022年“最美科技工作者”学习宣传活动的通知
中国图象图形学学会高校志愿者招募
中国图象图形学学会关于组织开展科技成果鉴定的通知

2022年CSIG图像图形中国行承办方征集中

登录查看更多
0

相关内容

周志华教授:关于深度学习的一点思考
专知会员服务
121+阅读 · 2021年11月23日
【经典书】模式识别导论,561页pdf
专知会员服务
78+阅读 · 2021年6月30日
最新《理论计算科学导论》书稿,655页pdf
专知会员服务
100+阅读 · 2020年9月17日
阿里巴巴达摩院发布「2020十大科技趋势」
专知会员服务
105+阅读 · 2020年1月2日
【科普】吴飞教授:《走进人工智能》---发刊词
中国图象图形学学会CSIG
0+阅读 · 2022年3月1日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年6月8日
Arxiv
0+阅读 · 2022年6月8日
Arxiv
0+阅读 · 2022年6月7日
Arxiv
0+阅读 · 2022年6月1日
VIP会员
相关VIP内容
相关资讯
【科普】吴飞教授:《走进人工智能》---发刊词
中国图象图形学学会CSIG
0+阅读 · 2022年3月1日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Top
微信扫码咨询专知VIP会员