【2021图灵奖】授予: 高性能计算先驱Jack Dongarra

2022 年 3 月 31 日 深度强化学习实验室

来源:机器之心

https://zhuanlan.zhihu.com/p/490403652


刚刚,2021 图灵奖公布。ACM 官方宣布 2021 年的图灵奖授予美国田纳西大学电气工程和计算机科学杰出教授,现年 71 岁的 Jack Dongarra,以表彰他对数值算法和工具库的开创性贡献,其使得高性能计算软件能够跟上四十多年来的指数级硬件改进。

Dongarra 的算法和软件推动了高性能计算(HPC)的发展,并在从人工智能到计算机图形学的许多计算科学领域产生了重大影响。由于他的软件被用做超级计算机性能测评标准,并且由此诞生了超级计算机 TOP500 排行榜。

图灵奖是计算机协会(ACM)于 1966 年设立的奖项,专门奖励对计算机事业作出重要贡献的个人,有着「计算机界诺贝尔奖」之称。图灵奖的奖金为 100 万美元,由谷歌公司赞助。图灵奖的 mingcheng 取自英国数学家艾伦 · 图灵(Alan M. Turing),他奠定了计算机的数学基础和局限性。

Dongarra 通过对线性代数运算的高效数值算法、并行计算编程机制和性能评估工具的贡献引领了高性能计算领域。近四十年来,摩尔定律使硬件性能呈指数级增长。与此同时,虽然大多数软件未能跟上这些硬件进步的步伐,但高性能数值软件却做到了——这在很大程度上归功于 Dongarra 的算法、优化技术和高质量的软件实施。

这些贡献奠定了一个框架,科学家和工程师由此在大数据分析、医疗、可再生能源、天气预测、基因组学和经济学等领域取得了重要发现,取得了改变游戏规则的创新。Dongarra 的工作还帮助促进了计算机体系结构的跨越式发展,支持了计算机图形学和深度学习的革命。

Dongarra 创建了一系列开源软件库和标准,这些工具采用线性代数作为中间语言,可以被各种应用程序使用。这些库可为单处理器、并行计算机、多核节点和多 GPU 使用。Dongarra 的工具还引入了许多重要的创新,包括自动调整、混合精度计算和批处理计算。

作为高性能计算的先驱,Dongarra 带领该领域的研究者促使硬件供应商去优化计算方法,并带领软件开发人员在工作中使用他的开源库。

从笔记本电脑到超级计算机,这些努力使得基于线性代数的软件库被普遍用于高性能科学与工程计算。这些库对于高性能计算领域的发展至关重要,促使功能越来越强大的计算机能够解决具有挑战性的计算问题。

ACM 主席 Gabriele Kotsis 表示:「今天最快的超级计算机在媒体上成为头条新闻,并通过在一秒钟内完成万亿次计算的惊人壮举,引发了公众的兴趣。但除了对打破新纪录的兴趣之外,高性能计算一直是科学发现的主要工具。HPC 创新也延伸到许多不同的计算领域,推动了整个领域的发展。Jack Dongarra 在引领这一领域的成功发展中发挥了核心作用。他的开创性工作可以追溯到 1979 年,他仍然是 HPC 社区中最重要且积极参与的领导者之一。他的职业生涯无疑体现了图灵奖对『具有持久重要性的重大贡献』的认可。」

谷歌高级研究员、谷歌研究 & 谷歌健康高级副总裁 Jeff Dean 表示:「Jack Dongarra 的工作从根本上改变并推动了科学计算的发展。他在世界上各个科学计算领域使用最频繁的数值软件库上的核心工作,帮助推进了从药物发现、天气预报到航空航天工程等十几个领域。他专注于表征广泛的计算机带来了适配数值计算的计算机体系结构的重大进步。」

Dongarra 将于今年 6 月 11 日在旧金山正式出席图灵奖颁奖晚宴。

重要技术贡献

过去的四十多年里,Dongarra 一直是 LINPACK、BLAS、LAPACK、ScaLAPACK、PLASMA、MAGMA 和 SLATE 等库的主要参与者或首席研究员。这些库为单处理器、并行计算机、多核节点及每节点多 GPU 而编写。他的软件库广泛应用于高性能科学和工程计算,从笔记本电脑到世界最快的超级计算机都有涉及。

这些库体现了深刻的技术创新,比如:

  • 自动调优:2016 年,他的项目 ATLAS 获得全球超级计算大会时间检验奖(Supercomputing Conference Test of Time),通过此项目 Dongarra 开创的方法能够自动查找生成接近最优效率的线性代数内核的算法参数,这优于供应商提供的代码;

  • 混合精度算术:在他 2006 年全球超级计算大会上发表的论文《Exploiting the Performance of 32 bit Floating Point Arithmetic in Obtaining 64 bit Accuracy》中,Dongarra 率先利用多精度的浮点算术来更快地提供精准的解决方案。这项工作已在机器学习应用中发挥重要作用,正如最近在 HPL-AI 基准测试中所展示的那样,它在世界顶级超级计算机上实现了前所未有的性能水平。

  • 批量计算:Dongarra 开创了将大型密集矩阵计算(通常用于模拟、建模和数据分析)划分为多块小型任务计算的范例,这些块可以独立、并发计算。基于他在 2016 年发表的论文《Performance, design, and autotuning of batched GEMM for GPUs》,Dongarra 领导了针对此类计算的 Batched BLAS Standard 的开发,它们也出现在了 MAGMA 和 SLATE 软件库中。

Dongarra 与国际上许多人在上述方面进行了合作,他始终扮演着创新驱动力的角色,通过不断开发新技术来最大限度地提高性能和便携性,同时使用最先进的技术保持可靠的数值结果。此外,他还领导了 MPI(Message Passing Interface)和 PAPI(Performance API)的开发。MPI 是并行计算架构上可移植消息传递的事实标准,PAPI 提供了一个允许从异构系统的组件收集和综合性能的接口。他帮助创建的标准,如 MPI、LINPACK 基准和超级计算机 Top500 名单,支撑了天气预测、气候变化、大规模物理实验数据的分析等计算任务。

评价全球现役超级计算机的著名榜单 TOP 500 榜单始于 1993 年。每年会在 6 月的国际超算大会(ISC)和 11 月的全球超级计算大会(SC)上更新排名。这一榜单就是由 Jack Dongarra 和劳伦斯伯克利国家实验室的 Erich Strohmaier、Horst Simon 等人共同构建的。

最新一期 Top500 榜单,更新于 2021 年 11 月。

人物简历

Jack J. Dongarra 在芝加哥州立大学获得数学学士学位,在伊利诺伊理工大学获得计算机科学硕士学位,在新墨西哥大学获得应用数学博士学位。

自 1989 年以来,他一直是田纳西大学杰出教授(Distinguished Professor)和橡树岭国家实验室的杰出研究人员。自 2007 年以来,他一直担任英国曼彻斯特大学的图灵 Fellow。

Dongarra 曾获得多项荣誉,包括 IEEE 计算机先驱奖,SIAM/ACM 计算科学与工程奖和 ACM/IEEE Ken Kennedy 奖等。他是 ACM、电气电子工程师协会 (IEEE)、工业和应用数学学会 (SIAM)、美国科学促进会 (AAAS)、国际超级计算会议 (ISC) 和 国际工程技术协会(IETI)Fellow。此外,他还是美国国家工程院院士和英国皇家学会的外籍会员。

登录查看更多
0

相关内容

Jack J. Dongarra 在芝加哥州立大学获得数学学士学位,在伊利诺伊理工大学获得计算机科学硕士学位,在新墨西哥大学获得应用数学博士学位。 自 1989 年以来,他一直是田纳西大学杰出教授(Distinguished Professor)和橡树岭国家实验室的杰出研究人员。自 2007 年以来,他一直担任英国曼彻斯特大学的图灵 Fellow。 Dongarra 曾获得多项荣誉,包括 IEEE 计算机先驱奖,SIAM/ACM 计算科学与工程奖和 ACM/IEEE Ken Kennedy 奖等。他是 ACM、电气电子工程师协会 (IEEE)、工业和应用数学学会 (SIAM)、美国科学促进会 (AAAS)、国际超级计算会议 (ISC) 和 国际工程技术协会(IETI)Fellow。此外,他还是美国国家工程院院士和英国皇家学会的外籍会员。
2021图灵奖Jack Dongarra经典书《高性能并行计算》,852页pdf
专知会员服务
109+阅读 · 2022年3月31日
高性能计算专家Jack Dongarra获2021年图灵奖
专知会员服务
16+阅读 · 2022年3月30日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
专知会员服务
78+阅读 · 2021年10月19日
【干货书】Python科学编程,451页pdf
专知会员服务
127+阅读 · 2021年6月27日
2021图灵奖公布!高性能计算先驱Jack Dongarra获奖
微软研究院AI头条
0+阅读 · 2022年3月31日
图灵奖得主:姚期智——计算机科学之旅
THU数据派
1+阅读 · 2021年11月12日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Simple and Effective Unsupervised Speech Synthesis
Arxiv
2+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月18日
Arxiv
12+阅读 · 2018年1月28日
VIP会员
相关VIP内容
2021图灵奖Jack Dongarra经典书《高性能并行计算》,852页pdf
专知会员服务
109+阅读 · 2022年3月31日
高性能计算专家Jack Dongarra获2021年图灵奖
专知会员服务
16+阅读 · 2022年3月30日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
专知会员服务
78+阅读 · 2021年10月19日
【干货书】Python科学编程,451页pdf
专知会员服务
127+阅读 · 2021年6月27日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员