分布式系统中常见技术解决的问题是什么?

2018 年 4 月 10 日 架构文摘 Charles

引言


在分布式系统中,经常会碰到的技术名词一般有Replication、Partition、Consensus、Transaction等等,这些技术在分布式系统设计中都是非常重要的,本文通过对分布式系统的Reliability、Scalability和Maintainability特性的讨论,描述这些技术解决的问题。


Reliability


Reliability,指的是在任何情况下,系统正常工作的能力。如果一个系统在发生任何异常时,都能正常的工作,那么系统是完全可靠的。现实中,异常种类很多,有的往往难以事先避免,因此,了解可能的异常并分析如何在异常发生时快速恢复是非常重要的。一般地,异常包括硬件异常,软件异常和人为异常。


硬件异常


硬件异常种类很多,硬盘,电源等任意一个部件的损坏,都可能导致服务器不能正常的工作。通常这类异常难以避免,但是,我们可以通过一些技术手段来实现异常发生后的快速恢复,不管是从软件角度还是硬件角度,基本的解决思路都是冗余。从硬件角度来讲,我们可以通过单机冗余多份硬件,当其中某个硬件发生异常时,可以快速地用好的硬件替换掉故障的硬件,这种方式的硬件冗余对于数据中心级的故障是没有作用的;从软件角度来讲,我们可以通过多副本(Replication)来实现快速恢复,当某台服务器硬件异常时,可以在软件层面将流量导入到新的副本上(实际上也有硬件冗余,但这种方式更为灵活),除了Replication之外,有时候为了减少单台服务器故障对所有用户的影响,可以对用户数据做Partition,单台服务器只存某一部分用户的数据,这样单机故障就只会影响一部分用户了。引入Replication后,如何保证多副本的数据的一致性又成了一个问题(Consensus),Paxos和Raft算法就是为了解决这类问题。


软件异常


软件异常一般指的是系统的bug,这里面不仅包括自己写的系统的bug,也包括依赖的服务系统的bug。软件异常同样也是不能完全避免的,因此,在发生软件异常时,也需要有快速恢复的手段,通常有三种方法:


1. 通过调整软件已有的配置参数,规避问题

2. 重启软件或者依赖的服务,消除异常状态

3. 直接修复bug,并升级版本


在没有发生致命性问题时,一般采用方法1或2来恢复,当发生的问题比较严重,并且没有已知的方法能绕过时,一般才使用方法3,方法3本身风险也是比较大的,因为修复bug的同时可能会产生新的bug。


人为异常


不管是软件本身,还是软件所运行的服务器,都是由人来管理的,但人是会犯错误的,有时候会执行错误的命令导致系统不能正常工作,其中比较致命的错误可能就是删掉某台服务器的数据了,在这种情况下为了能快速地恢复,通常也是采用Replication的思路,来避免问题。


Scalability


系统的工作负载通常不是一成不变的,当工作负载增加时,往往可以通过增加机器资源来保持性能不变,而需要增加机器数量的多少是由系统的扩展性来决定的,扩展性越好的系统,需要增加的机器资源越少。最完美的扩展性是线性扩展性,即工作负载扩大为原来N倍的时候,只需要加N倍的机器,就能够保持性能不变,最差的扩展性则是没有扩展性,即工作负载扩大为原来N倍时,即使加再多的机器,也无法保持性能和原来一样。


对于不同的系统,负载所代表的含义通常是不一样的,对于基础架构系统,通常每秒读和每秒写的次数,对于业务系统,通常有自己的指标,例如每秒交易创建的笔数。同样地,对于不同的系统,其使用的性能指标通常也是不相同的,对于批处理系统,通常强调的是吞吐量,即每秒完成的任务数量,而对于在线处理系统,通常强调的是响应时间。


在明确一个系统的工作负载指标和性能指标之后,我们才能讨论在该系统下如何实现扩展。扩展通常是两种思路,一是垂直扩展,即使用更好的机器替换现有的机器,二是水平扩展,即使用更多的机器。


对于垂直扩展,其优点是对业务是无影响的,缺点是更好的机器是很贵的,通常是一分钱一分货,而十分钱只能买到两分货,且现实中总有单机装不下的数据量,此时垂直扩展自然就无法实施了。


对于水平扩展,通常需要软件层面的配合,对于无状态的系统,通常只要在新加的机器上部署上需要扩展的系统,而对于有状态的系统,一般指的是存储系统,通常会将数据分成Partition(分区),这样新加的机器才能通过迁移Partition的方式,从老的机器上迁移数据以及对应的工作负载出来。水平扩展的优点是使用的都是相对廉价的服务器,能节约成本,但在软件层面需要做大量的工作,包括Partition的管理,迁移,负载均衡等等。


Maintainability


可维护性的好坏决定了系统是否能够长久的发展,一个可维护性不好的系统,会给运维和开发人员带来很多不便。对于运维人员来讲,可维护性指的是系统是否支持常用的运维手段,良好的文档等等。而对于开发人员来讲,主要分为内核开发以及使用该系统的业务开发,对于业务开发,维护性指的是系统是否有良好的接口,方便业务使用,例如,Transaction就是底层系统提供给业务的一种接口,它保证了在一个事务中执行的语句具有ACID性质,从而业务只需要关注业务逻辑的开发,而不需要关心底层的具体实现;对于内核开发,维护性指的是系统的代码质量,主要包括代码的可阅读性和是否易于修改,主要和系统内核开发人员的代码设计能力相关。


总结


为了能达到较好的可靠性(Reliability)、可扩展性(Scalability)和可维护性(Maintainability),分布式系统设计中通常会使用多副本(Replication)、数据分区(Partition)、一致性算法(Consensus)、事务(Transaction)等技术,理解它们要解决的问题,深入了解每种技术背后可能的实现方案,有助于评价某个系统的设计好坏,这对于多个竞品系统的选型和深入学习系统原理都是非常有必要的。


参考文献


  • Design Data Intensive Applications


出处:http://oserror.com/distributed/system-principle/


版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知,我们会立即删除并表示歉意。谢谢。



架构文摘

ID:ArchDigest

互联网应用架构丨架构技术丨大型网站丨大数据丨机器学习

更多精彩文章,请点击下方:阅读原文

登录查看更多
0

相关内容

软件(中国大陆及香港用语,台湾作软体,英文:Software)是一系列按照特定顺序组织的计算机数据和指令的集合。一般来讲软件被划分为编程语言、系统软件、应用软件和介于这两者之间的中间件。软件就是程序加文档的集合体。
多智能体深度强化学习的若干关键科学问题
专知会员服务
185+阅读 · 2020年5月24日
【硬核书】可扩展机器学习:并行分布式方法
专知会员服务
85+阅读 · 2020年5月23日
【新书】Python中的经典计算机科学问题,224页PDF
专知会员服务
52+阅读 · 2019年12月31日
最新《分布式机器学习》论文综述最新DML进展,33页pdf
专知会员服务
118+阅读 · 2019年12月26日
分布式核心技术知识图谱,带走不谢
架构师之路
12+阅读 · 2019年9月23日
在K8S上运行Kafka合适吗?会遇到哪些陷阱?
DBAplus社群
9+阅读 · 2019年9月4日
自动驾驶技术解读——自动驾驶汽车决策控制系统
智能交通技术
30+阅读 · 2019年7月7日
Tensorflow框架是如何支持分布式训练的?
AI100
9+阅读 · 2019年3月26日
已删除
将门创投
9+阅读 · 2018年12月19日
可能是讲分布式系统最到位的一篇文章
InfoQ
8+阅读 · 2018年11月19日
【APS】PCB企业如何实现APS自动排程系统
产业智能官
12+阅读 · 2018年9月24日
为什么分布式一定要有消息队列?
互联网架构师
4+阅读 · 2018年7月5日
Arxiv
38+阅读 · 2020年3月10日
Image Segmentation Using Deep Learning: A Survey
Arxiv
44+阅读 · 2020年1月15日
Deep learning for cardiac image segmentation: A review
Arxiv
21+阅读 · 2019年11月9日
Arxiv
53+阅读 · 2018年12月11日
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
VIP会员
相关资讯
分布式核心技术知识图谱,带走不谢
架构师之路
12+阅读 · 2019年9月23日
在K8S上运行Kafka合适吗?会遇到哪些陷阱?
DBAplus社群
9+阅读 · 2019年9月4日
自动驾驶技术解读——自动驾驶汽车决策控制系统
智能交通技术
30+阅读 · 2019年7月7日
Tensorflow框架是如何支持分布式训练的?
AI100
9+阅读 · 2019年3月26日
已删除
将门创投
9+阅读 · 2018年12月19日
可能是讲分布式系统最到位的一篇文章
InfoQ
8+阅读 · 2018年11月19日
【APS】PCB企业如何实现APS自动排程系统
产业智能官
12+阅读 · 2018年9月24日
为什么分布式一定要有消息队列?
互联网架构师
4+阅读 · 2018年7月5日
相关论文
Arxiv
38+阅读 · 2020年3月10日
Image Segmentation Using Deep Learning: A Survey
Arxiv
44+阅读 · 2020年1月15日
Deep learning for cardiac image segmentation: A review
Arxiv
21+阅读 · 2019年11月9日
Arxiv
53+阅读 · 2018年12月11日
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Top
微信扫码咨询专知VIP会员