稀疏计算(如图问题和稀疏矩阵算法中的计算)对于解决生物学、编译器设计和机器学习等领域的复杂问题至关重要。然而,在现代异构计算环境中,高效处理大规模、不规则的稀疏数据结构提出了重大挑战,必须在可扩展性和效率之间仔细权衡。现有的并行算法和计算模型通常未能充分利用稀疏数据中的固有结构,导致效率低下和可扩展性有限。这对于NP难问题尤其成问题,因为最坏情况下的解决方案速度较慢,而对于稀疏矩阵内核来说,它们是稀疏神经网络和科学计算中的瓶颈。 本论文介绍了利用稀疏数据结构特性的新算法、框架和模型。我们的贡献包括: 1. 固定参数可解算法:用于子图同构和k-团列举,利用平面性和缺乏密集子图的特性减少计算深度或工作量,从而提高并行环境中的可扩展性和效率。 1. 参数化模板图框架:高效处理执行图中的重复结构,优化并行程序分析中的数据移动。 1. 空间计算机模型与竞争模型:针对空间数据流架构的挑战,通过考虑空间局部性和竞争成本来优化稀疏通信模式。 1. 局部性优化的图布局:最小化通信成本,使现代加速器和分布式系统上的稀疏矩阵操作具有可扩展性。 1. 模型引导的实验评估:在最先进的数据流架构上对基本通信集体操作进行评估,强调了我们建模的影响。

这些贡献共同推动了稀疏计算的最新技术发展,为高性能计算的未来进步奠定了基础,可能对数据分析、科学计算和机器学习产生深远影响。

成为VIP会员查看完整内容
1

相关内容

博士论文是由攻读博士学位的研究生所撰写的学术论文。它要求作者在博士生导师的指导下,选择自己能够把握和驾驭的潜在的研究方向,开辟新的研究领域。由此可见,这就对作者提出了较高要求,它要求作者必须在本学科的专业领域具备大量的理论知识,并对所学专业的理论知识有相当深入的理解和思考,同时还要具有相当水平的独立科学研究能力,能够为在学科领域提出独创性的见解和有价值的科研成果。因而,较之学士论文、硕士论文,博士论文具有更高的学术价值,对学科的发展具有重要的推动作用。
【博士论文】边缘分布式深度神经网络推理
专知会员服务
22+阅读 · 2月26日
【博士论文】高性能并发图计算优化技术研究
专知会员服务
33+阅读 · 2023年12月13日
【博士论文】分形计算系统
专知会员服务
35+阅读 · 2021年12月9日
专知会员服务
56+阅读 · 2020年12月20日
【MIT博士论文】数据高效强化学习,176页pdf
最新《图嵌入组合优化》综述论文,40页pdf
最新《动态网络嵌入》综述论文,25页pdf
专知
35+阅读 · 2020年6月17日
【优青论文】深度神经网络压缩与加速综述
计算机研究与发展
14+阅读 · 2018年9月20日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
438+阅读 · 2023年3月31日
Arxiv
75+阅读 · 2023年3月26日
Arxiv
157+阅读 · 2023年3月24日
Arxiv
22+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【博士论文】边缘分布式深度神经网络推理
专知会员服务
22+阅读 · 2月26日
【博士论文】高性能并发图计算优化技术研究
专知会员服务
33+阅读 · 2023年12月13日
【博士论文】分形计算系统
专知会员服务
35+阅读 · 2021年12月9日
专知会员服务
56+阅读 · 2020年12月20日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
相关论文
微信扫码咨询专知VIP会员