本期内容为《走进人工智能》:第11讲 从摩尔定律到黄氏定律:人工智能算力之源∣达依尔的麦粒:指数爆炸
《走进人工智能》
你好,这里是吴飞的数字专栏《走进人工智能》。上一讲中我们介绍了“从单通道独奏到多通道协同:跨媒体计算”。在专栏的第十一讲,我为你准备的内容是“从摩尔定律到黄氏定律:人工智能算力之源”。前面我们说过,在智能应用中,“数据是燃料、人工智能是引擎”,构成人工智能引擎的核心元件则是由成千上万个晶体管组合而成的芯片。“凡事预则立,不预则废”,在二十世纪七十年代,英特尔(Intel)创始人之一的戈登·摩尔(Gordon Moore)预测“计算机芯片所包含的晶体管数目每隔18个月就会增长1倍、性能也将提升1倍”,这被称为“摩尔定律”。“摩尔定律”推动着计算机所展现的算力不断提升,在数据密集型计算范式时代使得人工智能在自然语言理解、视觉分析和语音识别等领域获得了空前发展,赋能社会。这一讲中我主要介绍摩尔定律的增长速度、摩尔定律发展历史和人工智能时代的算力增长这三部分内容。
达依尔的麦粒:指数爆炸
在开始讲解摩尔定律之前,我们先通过几个故事来理解摩尔定律中提及的晶体管数目的增长速度。
相传国际象棋的前身是由古印度舍罕王(Shirham)的宰相达依尔(Dahir)发明的。舍罕王为了表彰这一发明,便问达依尔需要什么赏赐。达依尔说,只要在象棋64个方格的第一个格子上放1粒麦子、第二个格子上放2粒、第三个格子上放4粒、第四个格子上放8粒,如此递推,也就是每一个次序在后的格子中放的麦粒都必须是前一个格子麦粒数目的2倍,直到第64个格子放满。国王爽快地答应了达依尔看似谦卑的请求。不料随后发现,全印度的麦子竟然无法放满棋盘一半的格子。实际上按照这样的方法,摆放的麦粒数目是264-1这样的天文数字。假设一立方米空间可摆放1500万粒麦子,那么摆满棋盘所需的麦粒将占用12000亿立方米,这相当于人类要用500多年才能生产出来的麦子的总量。一个人如果每秒钟能数两粒麦子,每天24小时不停工作,那么需要1400亿年才能数完这些麦粒。
英国的政治经济学家、人口学家马尔萨斯(Malthus)在《人口原理》(An Essay on the Principleof Population)一书中指出:人口按几何级数增长,而食物等生活资源只能按算术级数增长,所以不可避免地要导致饥荒、战争和疾病。根据美国政府1790年到1820年中每十年所做的人口普查的数据,马尔萨斯给出了人类人口数目每隔20多年会增长一倍的预测。马尔萨斯的理论被称为“两个级数”,也就是“如果人口不受限制的话,就会以几何级数增长;而食物则仅仅以算术级数增长。”应该说,与当今世界人口增长趋缓和食物增产增收的情况相比,马尔萨斯所提出的“两个级数”思想具有一定的历史局限性。
上述故事都指向了一个数学概念,即事物成倍成倍增长,犹如大爆炸一样,这就是 “指数爆炸”。指数爆炸式增长带来了可观的增长结果,比如1毫米厚度的纸张如果可以折叠103次,厚度将超过已知宇宙的直径。在经济学上,这一增长方式被称为“复利(compound interest)”。所谓复利是指在计算利息时,某一个计息周期的利息是由本金加上先前周期所积累的利息总额来计算的计息方式,也就是通常所说的“利滚利”。
产品名称:走进人工智能∣有声通识十五讲
主理人:吴飞
出品机构:高等教育出版社 、高等教育电子音像出版社
合作机构:浙江大学上海高等研究院、上海人工智能实验室智能教育中心
出品时间:2022年1月