【博士论文】分形计算系统

2021 年 12 月 9 日 专知

来自中科院计算所赵永威赵永威的博士论文,入选2021年度“CCF优秀博士学位论文奖”初评名单!

https://www.ccf.org.cn/Focus/2021-11-22/750448.shtml


分形计算系统


在许多领域,编程成本已经成为阻碍计算机技术应用发展的主要瓶颈问 题:超级计算机性能走向百亿亿次级别,然而现代超级计算机发展趋势是采用 异构运算部件,导致编程困难的问题越来越严峻;在物端边缘计算领域,设备 数量和种类呈现爆炸式增长,而应用程序开发者不可能针对上百亿种异构设 备进行编程,产生了“昆虫纲悖论”;在机器学习领域,编程框架 TensorFlow 的代码规模已经突破 400 万行,为机器学习或深度学习开发领域特定加速器产 品的主要成本已经来源于配套软件生态的研发。

编程难题包括并行编程难、异构编程难、大规模系统编程难、跨系统编程 难等诸多表现形式。学位论文拟提出分形计算概念,通过分形计算系统的研究 以回应编程难题;具体来说,分形计算系统针对来源于“编程-规模相关性”的 编程难题提供了解决方案。具体贡献包括:

提出分形计算模型(FPM),一种采用了层次同性原理的通用并行计算 模型。分形计算模型具有编程-规模无关性,是一种串行编程、并行执 行的模型。使用者只需编写串行的程序,该计算模型可以自动展开至任 意规模的系统上并行执行,因此可以在通用领域解决来源于编程-规模 相关性的编程难题。

提出分形冯·诺伊曼体系结构(FvNA),一种采用了层次同性原理的专 用并行体系结构。相同任务负载在不同规模的分形冯·诺依曼体系结构 计算机上可以分别自动展开、执行,因此可以做到对一系列不同规模的 计算机仅需进行一次编程。以机器学习领域专用体系结构为例,本文实 现了一系列分形机器学习计算机 Cambricon-F,以解决机器学习计算机 编程困难的问题。实验结果表明,Cambricon-F 在改善了编程生产率的 同时,还能获得不劣于 GPU 系统的性能和能效。 

提出可重配分形指令集结构(FRISA),一种按照分形计算模型设计的 分形计算机指令集结构。分形可重配指令集结构能够在分形冯·诺依曼 体系结构计算机上定义任意的分形运算,因此可以支持实现分形计算模型,形成通用分形冯·诺依曼体系结构计算机。以机器学习领域专用体 系结构为例,本文在 Cambricon-F 的基础上实现了一系列可重配的分形 机器学习计算机 Cambricon-FR,以解决 Cambricon-F 在新兴机器学习应 用上遇到的失效现象。实验结果表明,Cambricon-FR 在解决了失效现 象、提高系统运行效率的同时,还能通过定义分形扩展指令缩短描述应 用所需的分形指令串的长度。

专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“分形计算” 就可以获取【博士论文】分形计算系统》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!


欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
2

相关内容

【博士论文】基于冲量的加速优化算法
专知会员服务
24+阅读 · 2021年11月29日
专知会员服务
84+阅读 · 2021年9月4日
专知会员服务
18+阅读 · 2021年6月29日
【干货书】Python科学编程,451页pdf
专知会员服务
125+阅读 · 2021年6月27日
最新《计算机体系结构和系统的机器学习》综述论文
专知会员服务
51+阅读 · 2021年2月17日
【博士论文】解耦合的类脑计算系统栈设计
专知会员服务
29+阅读 · 2020年12月14日
2021图灵奖公布!高性能计算先驱Jack Dongarra获奖
微软研究院AI头条
0+阅读 · 2022年3月31日
【2021图灵奖】授予: 高性能计算先驱Jack Dongarra
深度强化学习实验室
0+阅读 · 2022年3月31日
【博士论文】基于冲量的加速优化算法
专知
7+阅读 · 2021年11月29日
【边缘计算】边缘计算面临的问题
产业智能官
17+阅读 · 2019年5月31日
【知识图谱】大规模知识图谱的构建、推理及应用
产业智能官
35+阅读 · 2017年9月12日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年4月19日
Arxiv
10+阅读 · 2020年6月12日
Self-Attention Graph Pooling
Arxiv
13+阅读 · 2019年6月13日
Arxiv
23+阅读 · 2018年10月24日
VIP会员
相关VIP内容
【博士论文】基于冲量的加速优化算法
专知会员服务
24+阅读 · 2021年11月29日
专知会员服务
84+阅读 · 2021年9月4日
专知会员服务
18+阅读 · 2021年6月29日
【干货书】Python科学编程,451页pdf
专知会员服务
125+阅读 · 2021年6月27日
最新《计算机体系结构和系统的机器学习》综述论文
专知会员服务
51+阅读 · 2021年2月17日
【博士论文】解耦合的类脑计算系统栈设计
专知会员服务
29+阅读 · 2020年12月14日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员