【科普】吴飞教授：《走进人工智能》---第11讲黄氏定律：人工智能算力增长速度

2022 年 4 月 22 日 中国图象图形学学会CSIG

由高等教育出版社、高等教育电子音像出版社出品，浙江大学上海高等研究院联合上海人工智能实验室智能教育中心共同打造了原创人工智能前沿科普有声通识数字栏目——《走进人工智能》，主理人为浙江大学上海高等研究院常务副院长，浙江大学人工智能研究所所长、中国图象图形学学会理事、动画与数字娱乐专业委员会副主任 吴飞教授 ，本栏目已在喜马拉雅平台正式上线。

本期内容为《走进人工智能》：第11讲黄氏定律：人工智能算力增长速度

《走进人工智能》

第11讲

从摩尔定律到黄氏定律：人工智能算力之源

黄氏定律：人工智能算力增长速度

2020年12月，斯坦福大学计算机科学系前任主任、现英伟达（NVIDIA）首席科学家比尔·戴利（Bill Dally）在一次主题演讲中提出了以英伟达创始人黄仁勋本人命名的“黄氏定律(Huang's Law)”。黄氏定律表明：在“计算架构改进”的推动下，人工智能芯片的性能每年可提升1倍，远远超过了摩尔定律。

根据人工智能研究组织Open AI统计，2012年至2019年，随着人工智能中深度学习模型发展，出现了若干大模型，模型计算所需的计算量已增长30万倍。斯坦福大学发布的《2019人工智能索引报告》（AI Index 2019）中也显示，2012年以后，生成强大的人工智能模型所需的算力资源，平均每三四个月就会增长1倍。人工智能模型对算力有强烈需求，黄氏定律为满足算力需求提供了保障。

2019年，美国马萨诸塞大学安姆斯特分校（University of Massachusetts Amherst）对训练单个深度学习模型所消耗的能量进行了评估，表明单个模型训练将产生高达62万磅左右的二氧化碳排放量，这一数值相当于五辆汽车在整个生命周期内的碳排放。

很显然，算力是计算时代和智能时代的核心，摩尔定律和黄氏定律给予人类追求算力以极大的信心，但是“大力出奇迹”并非人工智能发展的唯一方向。

小结

2015年，在摩尔定律诞生50周年之际，一本有关摩尔定律的人物传记在剑桥大学出版社出版，题目是《摩尔定律――戈登·摩尔的一生，硅谷寂静的革命者》。这本书中写道：“从你口袋中的手机到你驾驶的汽车，从社会媒体巨大的吸引力到五角大楼的战略制定，无一不是由硅晶体管技术引导而成。年复一年，至今半个世纪，这些小东西的能力不断增大，就如剧烈震荡的政治或社会革命一样，改变了人类的历史进程。革命的核心人物就是一位文雅的加利福尼亚人：戈登·摩尔”。以上是这一讲的全部内容，下一讲我将介绍“从硅基之力到碳基之巧：智能的混合增强”。

产品名称：走进人工智能∣有声通识十五讲

主理人：吴飞

出品机构：高等教育出版社、高等教育电子音像出版社

合作机构：浙江大学上海高等研究院、上海人工智能实验室智能教育中心

出品时间：2022年1月