为高度连接数据而生 阿里云图数据库GDB揭秘

2019 年 4 月 2 日 阿里巴巴数据库技术

点击上方蓝字“阿里巴巴数据库技术”关注我们

每天都可以接收到阿里云数据库的最新干货!

背景

如果你关注过db-engines.com,你很可能会发现有一种类别的数据库在最近几年正以火箭般的速度迅速流行起来,那就是Graph DBMS。阿里云于2019年3月重磅发布了数据库新产品——图数据库(Graph Database,简称GDB),本文将从图数据库的基本背景知识说起,带你深入了解阿里云Cloud-Native图数据库GDB。


什么是图数据库

“A graph database is a database that uses graph structures for semantic queries with nodes, edges and properties to represent and store data.

A key concept of the system is the graph (or edge or relationship), which directly relates data items in the store a collection of nodes of data and edges representing the relationships between the nodes. 

The relationships allow data in the store to be linked together directly, and in many cases retrieved with one operation. Graph databases hold the relationships between data as a priority. 

Querying relationships within a graph database is fast because they are perpetually stored within the database itself. Relationships can be intuitively visualized using graph databases, making it useful for heavily inter-connected data.”

上面是维基百科上对图数据库的一段定义描述以及一个简单示例。简单说来,典型的图结构由点,边和点边对应属性构成。图数据库则是针对图这种结构的独有特点而专门设计的一种数据库,非常适合高度互连数据集的存储和查询。

示例中描述的是一个极度简化的社交关系图,圆圈代表顶点(Vertex/Node), 有方向的线条代表边(Edge),顶点或者边都可以有属性(Property)。现实中的,图数据库覆盖的应用场景非常广泛,比较典型的有社交网络,欺诈检测,推荐引擎,知识图谱和网络/IT运营等。

图数据库 vs 传统关系型数据库

所谓术业有专攻,相对于传统的关系型数据,图数据库更擅长高密互连的数据处理。让我们先从Linkedin类似查询为例来管中窥豹看看图数据库的价值。

比如,用户UserId-xxx发起“_查询自己2度好友中名字叫James的人_”这样一个查询请求。以传统关系数据库的做法,你可能会写出如下查询语句:

select * from t as t3 where t3.uid in(
select friend_uid from t as t2 where t2.uid in (
select friend_uid from t as t1 where t1.uid='UserId-xxx'
)
) and t3.name='James'

抛开查询语句的复杂度,该类查询语句在关系型数据库中执行起来是非常低效的,往往要秒级才能正常返回。如果进一步变为3度查询,则更慢了。那么,要是采用图数据库呢?以Gremlin为例,你可以很简单的写出这样一段查询语句:

g.V('UserId-xxx').repeat(both().simplePath()).times(2).dedup().has('name', 'James')

更为关键的是,这种2度,3度查询请求在图数据库中处理起来是非常高效的,性能往往能够轻松的达到传统关系型数据库的十倍乃至几十倍。

这种性能的差异并非简单的调优问题,而是更深层次的数据库建模以及内核层面决定的。可以说,图数据库在基因层面更适合高度连接数据库的处理。

下面的表格将从更多层面对二者进行对比:

分类 关系型数据库 图数据库
模型 表结构 图结构
存储信息 高度结构化数据 结构化/半结构化数据
2度查询 低效 高效
3度查询 低效/不支持 高效
空间占用


图模型


图的概念源自图论,大家如果有所了解,可能听得最多的会是无向图,有向图这两种概念。

图分类 描述 示例
无向图 一个图中所有的边都是无方向的,比较典型例子就是facebook社交网络中的好友关系。

有向图 图中的边是有方向的,比较典型的例子就是Twitter这种社交网络中的关注关系。

随着理论和技术的不断演进,当前在图数据库的应用当中,最为流行的是下面两种图模型:

图模型 描述 示例
属性图 属于有向图,进一步细化了点和边的属性特点(部分进一步增加了Label概念),是当前图数据库采用的主流模型。

RDF图 核心是一种资源描述方式,每条描述都由主谓宾三元组构成。RDF作为W3C标准大量应用于知识图谱等相关应用。

RDF是当前W3C的一个推荐标准,同时有标准查询语言SPARQL配合,在早期有大量RDF Stores产品出现。大家可以看到db-engines.com到目前还保留着RDF Stores这样一个分类。

后来,属性图模型被大量图数据库产品所采用,属性图相对RDF更为灵活,新的图数据库也逐渐侵蚀部分RDF Stores的市场,更有不少产品在属性图基础之上做RDF及SPARQL的支持,以便无缝的承接RDF及SPARQL之上的各类应用及生态。


图数据库GDB整体介绍


阿里云图数据库(Graph Database, 简称GDB)是一种支持属性图模型,用于处理高度连接数据查询与存储的实时可靠的在线数据库,支持 Apache TinkerPop Gremlin 查询语言,可以帮助用户快速构建基于高度连接的数据集的应用程序。阿里云图数据库GDB具有如下特点:

  • 开放图查询语言:支持属性图模型,高度兼容Gremlin图查询语言

  • 服务高可用:支持高可用实例,节点故障迅速转移,保障业务连续性

  • 高度优化的自研引擎:高度优化的自研图计算层和存储层,云盘多副本保障数据超高可靠,支持ACID事务

  • 易运维:提供备份恢复,自动升级,监控告警,故障切换等丰富的运维功能,大幅降低运维成本

开放图查询语言

阿里云图数据库GDB支持属性图模型,公测版对外开放Apache TinkerPop Gremlin(https://tinkerpop.apache.org/gremlin.html)图查询语言。

Gremlin是一由Apache TinkerPop提供支持的图查询语言,License为开源的Apache License Version 2.0。Gremlin和传统SQL有明显区别,是一种函数式、面向数据流的查询语言,使用户可以更为直接地控制和表达图查询的复杂逻辑。Gremlin包含一个宽松的DSL规范描述,以及基于Java/Groovy的开源实现。

阿里云图数据库GDB实现了Gremlin的高度兼容,支持直接使用开源的3.3.3版本以3.4版本开源客户端连接GDB进行操作,具体包括Gremlin Console,Java SDK,Python SDK,.Net SDK,并且支持Rest接口。如果希望进一步了解具体兼容性,可以参考:GDB Gremlin实现的兼容性

服务高可用

图数据库GDB公测版本支持高可用实例,后续商业化将进一步开放一写多读实例,提供读实例的水平扩展能力。

高可用版本采用一主一备的经典高可用架构,主备都采用独立的图数据库节点,计算与存储分离,主备之间通过复制(默认半同步)实现数据同步,一旦主库发生故障,将迅速检测并触发主备切换来保证可用性。

备库故障对业务无影响,但会快速被检测到并触发备库自愈。未来提供一写多读实例后,所有读写实例将共享底层存储资源(3副本),提升扩展性的同时也将带来整体存储成本的进一步降低。

高度优化的自研引擎

图数据库GDB由阿里云自主研发,是一款高度优化的Cloud-Native图数据库,虽然归属No-SQL数据库分类,但提供了完整的ACID事务支持。在上云之前,图数据库GDB在阿里巴巴已经有大量内部客户使用。图内核经历过多个版本深度打磨,同时针对云环境进行了大量调优。GDB公测版本基于云盘构建,云盘多副本提供了数据超高可靠保障。

下图是GDB内核部分核心能力示意:

整体上,图数据库内核包含计算和存储两层,计算层专注在图相关能力抽象及实现,存储层专注在数据的内部布局及高效存取。下面将对GDB内核的部分核心能力进行进一步解析:

  • Gremlin Runtime: 实现了Gremlin DSL的高效解析及执行计划的生成。同时为保障DSL的安全执行,内部实现了一层沙箱来做安全防护。

  • Cost-Based Optimizer: 通过完整的信息统计和代价估算,以CBO(Cost-Based Optimizer)为主体,辅以部分RBO(Rule-Based Optimizer),来对执行方案进行优化。

  • Parallel Query Execution: 当前主要采用了基于Morsel机制的并行执行, 同时也在基于场景不断探索和验证更有效的并行执行方案。

  • Read Committed Isolation Level: GDB提供了一种自动事务机制,针对每一条DSL都会自动生成一个事务并在执行结束时基于结果提交或者终止。公测版本当前默认为Read-Committed隔离级别,更多的隔离级别将在未来开放并提供入口让用户自行权衡设定。

  • Fine-Grained Locking: GDB内部针对读,写,读写混合各类请求进行了细致划分,结合隔离级别,对锁进行了非常细粒度的管理。

  • Smart Cache: GDB内部实现了两层Cache,包括Object Cache及Block Cache,同时会基于用户的请求特征自行调整Cache策略。

  • High Performance Transaction Mechanism: 一个复杂DSL本质对应的是一个复杂的父事务,在执行优化后将会被拆解成多个子事务来执行,GDB内部实现了一套非常高效的事务装置,能够在保证事务正确性的同时提供最大的并发性。

  • Schema-Agnostic Indexing: GDB采用Schema-free的设计,支持自动索引,用户无需面对繁杂的索引管理和优化相关事情,只需专注在业务自身的实现即可。

  • Highly-Tuned Storage Engine: GDB基于图结构的特点设计了全新的存储方案,同时基于云盘等云上环境进行了大量针对性调优。

  • High Reliability: GDB采用云盘作为存储,每份数据3副本,配合高可用设计,能够最大程度的保证数据的可靠性。

易运维

除核心图数据库服务能力外,GDB为用户提供了大量运维配套能力。包括备份恢复,自动升级,监控告警,故障切换等,可以帮助用户大幅降低运维成本。


图数据库GDB未来演进

图数据库GDB还在迅速的演进和完善当中,不久的未来,我们会提供:

  • 更强大的备份恢复能力

  • 更强大的弹性及水平扩展能力

  • 丰富的数据迁移工具

  • 完善的数据管理工具(可视化,性能诊断,审计等)

  • 常见的图算法

我们也会进一步在各个层面对图数据库的生态进行完善,包括提供相关工具或环境让用户能够便利的对接到业界流行的的一些图相关系统,比如可视化系统,分析系统等。

写在最后

图数据库GDB是阿里云数据库家族为覆盖更全面企业场景而重磅推出的最新力作,拥有很多优秀的特性。当前图数据库GDB已经正式公测发布,https://www.aliyun.com/product/gdb,欢迎体验和反馈!

活动预告


阿里云将隆重亮相全球数据库领域顶级学术会议——ICDE 2019,并于大会期间(4月9日)举办以“云时代的数据库”为主题的技术专场,围绕新一代自研云原生数据库POLARDB、OLAP数据库AnalyticDB、自治数据库平台(Self-Driving Database Platform)等最新产品和技术创新,为参会者带来精彩演讲。


当学术大家遇到技术大拿

会碰撞出怎样的火花?

欢迎点击“阅读原文”扫描下方二维码

报名参会

达摩院数据库“最强大脑”零距离接触

专场主题:云时代的数据库

(Database in the Cloud Era)

日期:2019年4月9日

时间:下午15:50-17:50

地点:澳门巴黎人酒店

(the Parisian Macao)

7003@Parisian GrandBallroom


阿里巴巴数据库技术

微信:alibabadba



分享数据库前沿 

解构实战干货

长按二维码关注

登录查看更多
0

相关内容

图形数据库是NoSQL数据库的一种类型,它应用图形理论存储实体之间的关系信息。
轻量级神经网络架构综述
专知会员服务
95+阅读 · 2020年4月29日
【ICLR2020-Facebook AI】张量分解的时序知识图谱补全
专知会员服务
58+阅读 · 2020年4月14日
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
29+阅读 · 2020年4月12日
【CVPR2020】图神经网络中的几何原理连接
专知会员服务
56+阅读 · 2020年4月8日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
【2020新书】Kafka实战:Kafka in Action,209页pdf
专知会员服务
67+阅读 · 2020年3月9日
TensorFlow Lite指南实战《TensorFlow Lite A primer》,附48页PPT
专知会员服务
69+阅读 · 2020年1月17日
【电子书】C++ Primer Plus 第6版,附PDF
专知会员服务
87+阅读 · 2019年11月25日
跳出公式,看清全局,图神经网络(GCN)原理详解
AI科技评论
64+阅读 · 2019年9月22日
Cayley图数据库的可视化(Visualize)
Python开发者
5+阅读 · 2019年9月9日
亿级订单数据的访问与储存,怎么实现与优化
ImportNew
11+阅读 · 2019年4月22日
专栏 | 浅析图卷积神经网络
机器之心
28+阅读 · 2018年7月4日
Neo4j 和图数据库起步
Linux中国
8+阅读 · 2017年12月20日
领域应用 | 图数据库及其在恒昌的应用简介
开放知识图谱
6+阅读 · 2017年10月10日
揭秘人脸识别的十大关键技术
全球创新论坛
6+阅读 · 2017年9月6日
当知识图谱遇上聊天机器人
PaperWeekly
34+阅读 · 2017年7月16日
揭秘 DeepMind 的关系推理网络
人工智能头条
3+阅读 · 2017年7月7日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Self-Attention Graph Pooling
Arxiv
13+阅读 · 2019年6月13日
Deep Graph Infomax
Arxiv
17+阅读 · 2018年12月21日
Explanatory Graphs for CNNs
Arxiv
4+阅读 · 2018年12月18日
Arxiv
4+阅读 · 2018年11月6日
Arxiv
10+阅读 · 2017年11月22日
VIP会员
相关VIP内容
轻量级神经网络架构综述
专知会员服务
95+阅读 · 2020年4月29日
【ICLR2020-Facebook AI】张量分解的时序知识图谱补全
专知会员服务
58+阅读 · 2020年4月14日
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
29+阅读 · 2020年4月12日
【CVPR2020】图神经网络中的几何原理连接
专知会员服务
56+阅读 · 2020年4月8日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
【2020新书】Kafka实战:Kafka in Action,209页pdf
专知会员服务
67+阅读 · 2020年3月9日
TensorFlow Lite指南实战《TensorFlow Lite A primer》,附48页PPT
专知会员服务
69+阅读 · 2020年1月17日
【电子书】C++ Primer Plus 第6版,附PDF
专知会员服务
87+阅读 · 2019年11月25日
相关资讯
跳出公式,看清全局,图神经网络(GCN)原理详解
AI科技评论
64+阅读 · 2019年9月22日
Cayley图数据库的可视化(Visualize)
Python开发者
5+阅读 · 2019年9月9日
亿级订单数据的访问与储存,怎么实现与优化
ImportNew
11+阅读 · 2019年4月22日
专栏 | 浅析图卷积神经网络
机器之心
28+阅读 · 2018年7月4日
Neo4j 和图数据库起步
Linux中国
8+阅读 · 2017年12月20日
领域应用 | 图数据库及其在恒昌的应用简介
开放知识图谱
6+阅读 · 2017年10月10日
揭秘人脸识别的十大关键技术
全球创新论坛
6+阅读 · 2017年9月6日
当知识图谱遇上聊天机器人
PaperWeekly
34+阅读 · 2017年7月16日
揭秘 DeepMind 的关系推理网络
人工智能头条
3+阅读 · 2017年7月7日
相关论文
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Self-Attention Graph Pooling
Arxiv
13+阅读 · 2019年6月13日
Deep Graph Infomax
Arxiv
17+阅读 · 2018年12月21日
Explanatory Graphs for CNNs
Arxiv
4+阅读 · 2018年12月18日
Arxiv
4+阅读 · 2018年11月6日
Arxiv
10+阅读 · 2017年11月22日
Top
微信扫码咨询专知VIP会员