项目名称: 基于分层图的海量图数据并行编程方法研究

项目编号: No.61402445

项目类型: 青年科学基金项目

立项/批准年度: 2014

项目学科: 自动化技术、计算机技术

项目作者: 王蕾

作者单位: 中国科学院计算技术研究所

项目金额: 26万元

中文摘要: 随着互联网和社会网络的迅猛发展,图数据规模越来越大,图算法越来越重要。由于缺乏分布式图计算框架,导致社会信息网络数据的价值远远没有发挥出来。如何高效处理具有复杂关系的海量图数据以及提高图计算的编程效率是一个具有挑战性的研究问题。本项目以典型图应用为驱动,1.针对全局通信开销难以控制的问题,提出基于分层图的层次并行方法,研究支持层次并行的映射机制。该映射机制通过三种并行模式和分层的计算资源管理,将层次并行度动态映射到硬件并行单元上高效执行。由于能挖掘更多并行度,把全局通信转化为局部通信,从而提高计算效率。2.针对计算资源利用率低的问题,提出基于缩图的主裁并行方法,研究支持MPMD并行模式,用额外的计算资源来进行图规模缩减,由于数据规模大幅度减少,从而降低通信量,提高计算效率。3.在上两个工作之上,抽象出一套简洁的高层并行编程接口,简化分布式并行编程,适用更多图应用,提高编程效率。

中文关键词: 分布式图计算;延迟数据一致性;异步并行;冗余消除;

英文摘要: With the rapid growth of the Internet and social networks, graph data scale is increasing dramatically and graph algorithms are getting more and more important. Due to the lack of a distributed graph computing framework, the information of social network

英文关键词: Distributed graph computation;Lazy data coherency;asynchronous parallel;redundancy elimination;

成为VIP会员查看完整内容
1

相关内容

图神经网络综述
专知会员服务
197+阅读 · 2022年1月9日
【博士论文】大数据相似查询关键技术研究
专知会员服务
23+阅读 · 2021年12月2日
面向大数据处理框架的JVM优化技术综述
专知会员服务
16+阅读 · 2021年11月27日
专知会员服务
54+阅读 · 2021年7月21日
专知会员服务
51+阅读 · 2021年5月30日
专知会员服务
95+阅读 · 2021年5月25日
专知会员服务
26+阅读 · 2021年3月7日
专知会员服务
37+阅读 · 2020年11月24日
大规模时间序列分析框架的研究与实现,计算机学报
专知会员服务
58+阅读 · 2020年7月13日
CUDA 编程上手指南(一):CUDA C 编程及 GPU 基本知识
极市平台
6+阅读 · 2021年12月17日
道路网的高效分区
TensorFlow
3+阅读 · 2021年11月22日
CIKM'21 | 自监督图神经网络在社会化推荐中的应用
图与推荐
3+阅读 · 2021年11月16日
【Flink】基于 Flink 的流式数据实时去重
AINLP
14+阅读 · 2020年9月29日
面向云端融合的分布式计算技术研究进展与趋势
中国计算机学会
19+阅读 · 2018年11月27日
【大数据】海量数据分析能力形成和大数据关键技术
产业智能官
17+阅读 · 2018年10月29日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
13+阅读 · 2020年4月12日
Arxiv
14+阅读 · 2019年11月26日
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
小贴士
相关VIP内容
图神经网络综述
专知会员服务
197+阅读 · 2022年1月9日
【博士论文】大数据相似查询关键技术研究
专知会员服务
23+阅读 · 2021年12月2日
面向大数据处理框架的JVM优化技术综述
专知会员服务
16+阅读 · 2021年11月27日
专知会员服务
54+阅读 · 2021年7月21日
专知会员服务
51+阅读 · 2021年5月30日
专知会员服务
95+阅读 · 2021年5月25日
专知会员服务
26+阅读 · 2021年3月7日
专知会员服务
37+阅读 · 2020年11月24日
大规模时间序列分析框架的研究与实现,计算机学报
专知会员服务
58+阅读 · 2020年7月13日
相关资讯
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员