项目名称: 基于SSD的大规模元数据处理技术研究

项目编号: No.60970025

项目类型: 面上项目

立项/批准年度: 2010

项目学科: 自动化技术、计算机技术

项目作者: 熊劲

作者单位: 中国科学院计算技术研究所

项目金额: 30万元

中文摘要: 现在和未来越来越多的应用需要高效管理万亿量级文件的元数据,而现有的元数据处理技术在规模和性能方面还不能满足这样的需求。为解决这一问题,本课题研究提高大规模元数据处理性能的方法,主要内容包括:(1)研究能够适应元数据模动态增长的、名字空间自动划分的元数据分布方法,解决元数据处理的可扩展性问题和负载均衡问题;(2)利用SSD作为元数据的永久存储介质,研究根据SSD的I/O特征来组织元数据存储和管理元数据缓存的方法,提高单个元数据服务器的元数据处理的性能价格比;(3)研究大规模元数据的索引方法,提高大规模元数据的名字解析效率;(4)研究文件系统元数据的性能评价方法,分析典型应用的元数据访问模式和特征,开发一个能够模拟多种负载的元数据性能评测工具,为深入研究元数据处理奠定基础。通过本研究,能够为高效地管理万亿量级文件的元数据提供切实可行的解决方案。

中文关键词: 闪存;SSD;分布式文件系统;元数据管理;

英文摘要:

英文关键词: Flash memory;SSD;distributed file system;metadata management;

成为VIP会员查看完整内容
1

相关内容

基于深度神经网络的图像缺损修复方法综述
专知会员服务
25+阅读 · 2021年12月18日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
专知会员服务
15+阅读 · 2021年8月19日
专知会员服务
35+阅读 · 2021年5月10日
专知会员服务
121+阅读 · 2021年4月29日
专知会员服务
14+阅读 · 2020年12月12日
基于Iceberg的大规模数据分析优化加速实践
作业帮基于Flink的实时计算平台实践
AI前线
0+阅读 · 2022年1月27日
云上应用系统数据存储架构演进
阿里技术
2+阅读 · 2021年9月1日
【Flink】基于 Flink 的流式数据实时去重
AINLP
14+阅读 · 2020年9月29日
基于Prometheus的K8S监控在小米的落地
DBAplus社群
16+阅读 · 2019年7月23日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月19日
Generalized Out-of-Distribution Detection: A Survey
Arxiv
15+阅读 · 2021年10月21日
小贴士
相关VIP内容
基于深度神经网络的图像缺损修复方法综述
专知会员服务
25+阅读 · 2021年12月18日
【博士论文】分形计算系统
专知会员服务
33+阅读 · 2021年12月9日
专知会员服务
15+阅读 · 2021年8月19日
专知会员服务
35+阅读 · 2021年5月10日
专知会员服务
121+阅读 · 2021年4月29日
专知会员服务
14+阅读 · 2020年12月12日
相关基金
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员