项目名称: 面向性能和可靠性的跨组织大数据部署方法研究

项目编号: No.61402533

项目类型: 青年科学基金项目

立项/批准年度: 2014

项目学科: 自动化技术、计算机技术

项目作者: 卢清华

作者单位: 中国石油大学(华东)

项目金额: 26万元

中文摘要: 跨组织大数据部署方法对跨组织大数据处理的性能和可靠性有显著影响。现有的部署方法主要是将各组织的海量数据统一移动到计算资源所在的云数据中心进行处理。然而,云数据中心间海量数据移动以及云基础设施随机行为和不可见性造成的不确定性对大数据处理的完成时间、花费和可靠性造成很大影响。因此,本项目拟提出适用于跨组织大数据部署的近数据计算架构风格,将计算任务推送到各组织存储数据的云数据中心并在各组织云数据中心本地部署大数据集群完成计算分析,从而减少跨组织大数据处理的海量数据移动,提高跨组织大数据处理的性能和可靠性。此外,本项目还拟提出基于随机奖励网的部署架构、部署工作流、以及云基础设施API故障容忍机制的分析方法,将云基础设施不确定性纳入分析,细颗粒度量化分析部署架构、部署工作流及云基础设施API容忍机制,以减少云基础设施的不确定性对跨组织大数据处理性能和可靠性的影响。

中文关键词: 大数据;软件体系结构;部署架构;运维;API故障容忍

英文摘要: The deployment approaches of cross-organizational big data processing have significant impact on performance and reliability of cross-organizational big data processing. Most of the past work mainly focuses on moving large amounts of data to cloud data ce

英文关键词: Big Data;Software Architecture;Deployment Architecture;Operation;API Fault Tolerance

成为VIP会员查看完整内容
0

相关内容

从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。
面向大数据处理框架的JVM优化技术综述
专知会员服务
16+阅读 · 2021年11月27日
专知会员服务
34+阅读 · 2021年10月17日
专知会员服务
64+阅读 · 2021年5月3日
专知会员服务
36+阅读 · 2021年3月21日
专知会员服务
45+阅读 · 2020年8月20日
如何提升 HBase 大规模集群下的低延时性能
AI前线
0+阅读 · 2022年3月28日
如何降低云计算基础设施的复杂度?
InfoQ
0+阅读 · 2022年1月4日
面向大数据处理框架的JVM优化技术综述
专知
0+阅读 · 2021年11月27日
图计算加速架构综述
专知
0+阅读 · 2021年4月5日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
面向云端融合的分布式计算技术研究进展与趋势
中国计算机学会
19+阅读 · 2018年11月27日
【大数据】海量数据分析能力形成和大数据关键技术
产业智能官
17+阅读 · 2018年10月29日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
Arxiv
28+阅读 · 2021年9月26日
小贴士
相关VIP内容
面向大数据处理框架的JVM优化技术综述
专知会员服务
16+阅读 · 2021年11月27日
专知会员服务
34+阅读 · 2021年10月17日
专知会员服务
64+阅读 · 2021年5月3日
专知会员服务
36+阅读 · 2021年3月21日
专知会员服务
45+阅读 · 2020年8月20日
相关资讯
如何提升 HBase 大规模集群下的低延时性能
AI前线
0+阅读 · 2022年3月28日
如何降低云计算基础设施的复杂度?
InfoQ
0+阅读 · 2022年1月4日
面向大数据处理框架的JVM优化技术综述
专知
0+阅读 · 2021年11月27日
图计算加速架构综述
专知
0+阅读 · 2021年4月5日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
面向云端融合的分布式计算技术研究进展与趋势
中国计算机学会
19+阅读 · 2018年11月27日
【大数据】海量数据分析能力形成和大数据关键技术
产业智能官
17+阅读 · 2018年10月29日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员