项目名称: 混合存储和计算模式下的大图处理优化技术研究

项目编号: No.61472321

项目类型: 面上项目

立项/批准年度: 2015

项目学科: 自动化技术、计算机技术

项目作者: 潘巍

作者单位: 西北工业大学

项目金额: 80万元

中文摘要: 随着数十亿顶点级别大规模图的不断涌现,分布式大图处理优化已经成为一个日益重要的研究问题。图在结构和计算上的高耦合性以及不断增长的规模给优化技术的研究带来了挑战。单一模式下的优化技术难以适应大图计算多样化的需求。本课题拟通过建立混合的存储和计算模式,并基于此利用权衡两级的优化思路,给出系统性的混合式优化技术解决方案。本项目拟从四个方面进行探索1)研究面向混合存储的图数据存储优化技术以减少数据移动和网络通信;2)研究面向混合存储的图数据访问优化技术以降低访问延迟;3)研究融合同\异步优点的新型计算模型,在保持易用性的基础上提高执行效率;4)研究多级调度优化技术以加速迭代收敛。同时,结合理论分析和完整的实验测试来检测新模型和现有模型的差异性,相关研究成果将为易用、可扩展、高性能平衡的大图处理的进一步研究与应用提供新的解决思路和技术支撑,因而具有重要的理论和实践意义。

中文关键词: 大数据;海量数据管理;图数据处理;计算模型;分布式计算

英文摘要: As the graphs with billions of vertices are constantly emerging, optimization of distributed massive graph processing becomes an increasingly important problem on graph data management. Coupling computational structure and growing size pose challenges to optimization techniques. Currently the biggest problem is that existing optimization technologies will struggle to satisfy diversified demand of massive graph processing within a single pattern.In this project,we tries to propose systematic hybrid optimization techniques with tradeoff ideas in hybird pattern.This proposal mainly focuses on four key aspects, including i)hybrid storage architecture based graph data storage technologies in order to reduce network traffic; ii) hybrid storage architecture based low-latency graph data access; iii)hybrid computational model compromises the merits of synchronization and asynchronization; and iv)multi-level scheduling to accelerate convergence. Analysis in theorem and thorough experimental tests will be conducted to evaluate the performance of the proposed methods. Such research work may provide new ideas for optimizaton on massvie graph computational model with a good tradeoff between easy of use,scalablility and high-performance, and therefore have great importance.

英文关键词: big data;massive data management;graph processing;computational model;distributed computing

成为VIP会员查看完整内容
1

相关内容

从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。
离散制造业边缘计算 解决方案白皮书,46页pdf
专知会员服务
31+阅读 · 2022年3月23日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
图计算加速架构综述
专知会员服务
49+阅读 · 2021年4月5日
专知会员服务
14+阅读 · 2021年3月26日
专知会员服务
28+阅读 · 2021年2月26日
专知会员服务
36+阅读 · 2020年12月22日
专知会员服务
83+阅读 · 2020年12月11日
专知会员服务
77+阅读 · 2020年12月6日
作业帮基于Flink的实时计算平台实践
AI前线
0+阅读 · 2022年1月27日
【博士论文】分形计算系统
专知
2+阅读 · 2021年12月9日
400倍加速, PolarDB HTAP实时数据分析技术解密
阿里技术
0+阅读 · 2021年10月25日
【Flink】基于 Flink 的流式数据实时去重
AINLP
14+阅读 · 2020年9月29日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
面向云端融合的分布式计算技术研究进展与趋势
中国计算机学会
18+阅读 · 2018年11月27日
SLA 99.99%以上!饿了么实时计算平台3年演进历程
51CTO博客
11+阅读 · 2018年4月10日
今日头条推荐系统架构演进之路
QCon
32+阅读 · 2017年6月21日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
1+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月19日
小贴士
相关VIP内容
离散制造业边缘计算 解决方案白皮书,46页pdf
专知会员服务
31+阅读 · 2022年3月23日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
图计算加速架构综述
专知会员服务
49+阅读 · 2021年4月5日
专知会员服务
14+阅读 · 2021年3月26日
专知会员服务
28+阅读 · 2021年2月26日
专知会员服务
36+阅读 · 2020年12月22日
专知会员服务
83+阅读 · 2020年12月11日
专知会员服务
77+阅读 · 2020年12月6日
相关资讯
作业帮基于Flink的实时计算平台实践
AI前线
0+阅读 · 2022年1月27日
【博士论文】分形计算系统
专知
2+阅读 · 2021年12月9日
400倍加速, PolarDB HTAP实时数据分析技术解密
阿里技术
0+阅读 · 2021年10月25日
【Flink】基于 Flink 的流式数据实时去重
AINLP
14+阅读 · 2020年9月29日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
面向云端融合的分布式计算技术研究进展与趋势
中国计算机学会
18+阅读 · 2018年11月27日
SLA 99.99%以上!饿了么实时计算平台3年演进历程
51CTO博客
11+阅读 · 2018年4月10日
今日头条推荐系统架构演进之路
QCon
32+阅读 · 2017年6月21日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员