如何让笨重的系统架构变灵巧?

2018 年 8 月 16 日 CSDN云计算


图片来源:Unsplash

作者丨徐贤军


来源丨徐贤军 架构师技术联盟


如需转载,请联系原作者授权



随着业务的复杂性增大、系统吞吐量增长,所有功能统一部署难度加大,各个功能模块相互影响使系统变的笨重且脆弱,因此需要对业务进行拆分、对系统进行解耦、对系统内部架构升级,以此来提升系统容量及健壮性。接下来主要分系统拆分结构演变两部分介绍:


系统拆分


系统拆分从资源角度分为应用拆分和数据库拆分,而从采用的先后顺序则可分为: 水平扩展、垂直拆分、业务拆分和水平拆分


图1 系统分解原则


1.

>>>水平扩展<<<


水平扩展是最初始的解决的手段,也是系统遇到瓶颈的首选方案,主要从以下两个方面扩展:


  • 应用加实例,搞集群,把系统吞吐量扩上去;

  • 数据库利用主从进行读写分离,数据库其实是系统最应该保护的资源。


2.

>>>垂直拆分<<<


垂直拆分才是真正开始拆分系统,主要是从业务功能角度拆分。如拆出用户系统、商品系统、交易系统等。

为了解决拆分后各个子系统之间相互依赖调用的问题,这时会引入服务调用治理。虽然系统复杂度有所加大,但系统基本解耦,稳定性相对提高,做好降级就能避免因其它系统功能异常导致系统崩溃问题。

业务对应的库也会按照对应的业务拆分出用户库、商品库、交易库等。


3.

>>>水平扩展<<<


业务拆分主要是针对应用层面按功能特点拆分,如交易拆分出:购物车、结算页、订单、秒杀等系统。然后根据业务的特点,针对性做处理,如秒杀系统,由于同时参加秒杀的商品有限,可以提前把商品信息加载到JVM缓存中,自身减少外部调用提高性能,同时商品系统也减轻压力。

数据库拆分也可以分为几步:垂直分表、垂直分库、水平分表、水平分库分表

  • 垂直分表是指大表拆多张小表,可以根据字段更新或查询频次拆分

图2 商品表拆分

  • 垂直分库是指按业务拆库,如拆出订单库、商品库、用户库等

  • 水平分表是解决数据量大,把一张表拆成多张表

  • 水平分库分表是更进一步拆分表

图3 分库分表


4.

>>>水平拆分<<<


服务分层,系统服务积木化,拆分功能与非功能系统、业务组合的系统,如最近比较火的大中台或前台拆分,中台为积木组件,承担服务功能输出;前台更多的是组合积木服务,及时响应业务发展,如在电商网站单品页能看见主图、价格、库存、优惠券或推荐等信息,都是组合各积木组件呈现。

数据库也可以进行冷热数据分离,过期或过季商品可以归档,比如诺基亚3210手机,早已经停产且没有销售;用户查看订单时,更多的只是查看最近1、2年信息,2年前数据查看量少,在存储设计时可以区别处理。


结构演变


结构演变主要是随着系统复杂度增加及对性能要求提高而不得不做的系统内部架构升级。早期系统基本是应用直联数据库,但在系统进行拆分后,功能本系统不能单独完成,需要依赖其它系统,就出现远程调用。

图4 早期应用结构


随着自身系统的业务发展,对性能要求高,而数据库一定程度上成为瓶颈,就会引入缓存及索引,分别解决key-value及复杂检索。索引加缓存现在已经成为解决高并发的基本方案,但在实施过程会有所区别。

14年对3亿热数据的系统升级时,技术选型为Solr+Redis,考虑到数据量过大,数据在Solr中只存index,而结果只存并返回主键ID,再通过ID从Redis中读取数据,Redis也不存放全部数据,数据设置过期时间,若未命中Redis,回源数据库查询并反写Redis。主要考虑资源与性能的平衡,Solr的存储减少及IO性能提高,结果数据只在Redis存放一份,Redis的数据经过运行大部分是热数据。当然现在也流行ES+Hbase组合。


图5 增加缓存及索引


对于频繁使用的数据,从集中缓存读取,不一定达到性能要求,可以考虑把数据入JVM缓存。如类目信息,类目是电商系统基本数据,数据量不多,调用量大。个别情况下,使用ThreadLocal做线程内缓存也是种有效手段,但需要考虑数据清除及有效性。

在修改商品信息时,业务对商品信息的校验有名称长度、状态、库存及各业务模式等,而为了参数的统一校验方法参数为商品编号,导致各校验方法都需要读取一次商品,使用线程缓存可以解决该问题,性能提高了近20ms,读取商品每分钟减少近万次。

图6 增加本地缓存


有时所依赖的系统性能不太稳定,为避免出现因第三方系统影响系统的情况,把依赖的服务进行数据闭环,与Dao一样当成系统的数据源。如商品系统强依赖商家系统的商家信息服务,若商家服务不稳定,商品系统一半服务都不稳定,采取对商家信息缓存一份,降低外部风险,把风险控制在自己手上。

图7 远程服务进化成数据源


用户体验最近越来越重视,系统响应时间性能要求也越来越高,异步化是很好的一种选择:消息中间件。电商下单就是个很好的案例,在用户点击下单时,服务端不直接保存数据,给订单系统发送消息,就直接返回支付页面,在用户支付过程中,订单系统异步进行数据保存。

业务层、数据层的范围越来越宽泛,业务层可以分为基础服务与组合服务;数据层分为数据源与索引缓存;依赖的技术或中间件需要有效的结合,用于解决系统所遇到各种问题。

图8 复杂的结构



最后


系统结构慢慢变复杂,稳定性、健壮性逐渐提高;技术选择都需要结合业务痛点、技术储备以及资源情况,否则就有些不切实际,泛泛而谈。

以上是近几年自己经历的技术变革及升级的总结,后续可以针对个别点进行详细分享。系统拆分的最后是微服务,结构的演变是技术的升级。



投稿啦!!!



精彩继续


CSDN作为国内专业的云计算服务平台,目前提供云计算、大数据、虚拟化、数据中心、OpenStack、CloudStack、机器学习、智能算法等相关云计算观点、技术、平台、实践、云产业咨询等服务。CSDN 公众号也一直坚持「与千万技术人共成长」的理念,深度解读行业内热门技术与场景应用,致力于让所有开发者保持敏锐的技术嗅觉、对行业趋势与技术获得更广阔的认知。


文章题材


  • 首先你需要关注我们的公众号“CSDN云计算”,这样你会更准确了解我们需要的文章风格;

  • 侧重于云计算领域相关的文章,可以是技术、运维、趋势等方面的务实内容;

  • 原创,要求文章有鲜明观点和看法。


投稿须知


  •  稿费:根据原创性、实用性和时效性等方面进行审核,通过的文章会发布在本微信平台。一经采用,我们将支付作者酬劳。酬劳可能不多,这代表的是一个心意,更多是因为爱好,是有识之士抒发胸怀的一种方式;

  • 字数要求:稿件字数以2K-8K为宜,少于2K或多于8K都会一定程度降低阅读愉悦感;

  • 投稿邮箱:lijy@csdn.net。或者添加微信表明来意,微信号:tangguoyemeng。请备注投稿+姓名+公司职位


如果咱们的合作稳定又愉快,还可以签订合同长期合作哦!


登录查看更多
0

相关内容

当数据库比较庞大,读写操作特别是写入操作过于频繁,很难由一台服务器支撑的时候,我们就要考虑进行数据库的切分。所谓数据库的切分,就是我们按照某些特定的条件,将一台数据库上的数据分散到多台数据库服务器上。因为使用多台服务器,所以当一台服务器宕机后,整个系统只有部分数据不可用,而不是全部不可用。因此,数据库拆分不仅能够用多台服务器分担数据库的负载压力,还可以提高系统的总体可用性。
【干货书】现代数据平台架构,636页pdf
专知会员服务
253+阅读 · 2020年6月15日
【实用书】Python爬虫Web抓取数据,第二版,306页pdf
专知会员服务
117+阅读 · 2020年5月10日
大数据安全技术研究进展
专知会员服务
92+阅读 · 2020年5月2日
德勤:2020技术趋势报告,120页pdf
专知会员服务
190+阅读 · 2020年3月31日
Sklearn 与 TensorFlow 机器学习实用指南,385页pdf
专知会员服务
129+阅读 · 2020年3月15日
【阿里技术干货】知识结构化在阿里小蜜中的应用
专知会员服务
96+阅读 · 2019年12月14日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
95+阅读 · 2019年12月4日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
亿级订单数据的访问与储存,怎么实现与优化
ImportNew
11+阅读 · 2019年4月22日
如何做数据治理?
智能交通技术
18+阅读 · 2019年4月20日
亿级订单数据的访问与存储,怎么实现与优化?
码农翻身
16+阅读 · 2019年4月17日
使用 Canal 实现数据异构
性能与架构
20+阅读 · 2019年3月4日
一张图理清电商后台产品模块,90%的电商类产品后台都适用
人人都是产品经理
8+阅读 · 2018年12月9日
AutoML: A Survey of the State-of-the-Art
Arxiv
69+阅读 · 2019年8月14日
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Risk-Aware Active Inverse Reinforcement Learning
Arxiv
7+阅读 · 2019年1月8日
Arxiv
12+阅读 · 2018年9月5日
Arxiv
3+阅读 · 2018年6月1日
VIP会员
相关VIP内容
【干货书】现代数据平台架构,636页pdf
专知会员服务
253+阅读 · 2020年6月15日
【实用书】Python爬虫Web抓取数据,第二版,306页pdf
专知会员服务
117+阅读 · 2020年5月10日
大数据安全技术研究进展
专知会员服务
92+阅读 · 2020年5月2日
德勤:2020技术趋势报告,120页pdf
专知会员服务
190+阅读 · 2020年3月31日
Sklearn 与 TensorFlow 机器学习实用指南,385页pdf
专知会员服务
129+阅读 · 2020年3月15日
【阿里技术干货】知识结构化在阿里小蜜中的应用
专知会员服务
96+阅读 · 2019年12月14日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
95+阅读 · 2019年12月4日
相关资讯
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
亿级订单数据的访问与储存,怎么实现与优化
ImportNew
11+阅读 · 2019年4月22日
如何做数据治理?
智能交通技术
18+阅读 · 2019年4月20日
亿级订单数据的访问与存储,怎么实现与优化?
码农翻身
16+阅读 · 2019年4月17日
使用 Canal 实现数据异构
性能与架构
20+阅读 · 2019年3月4日
一张图理清电商后台产品模块,90%的电商类产品后台都适用
人人都是产品经理
8+阅读 · 2018年12月9日
相关论文
AutoML: A Survey of the State-of-the-Art
Arxiv
69+阅读 · 2019年8月14日
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Risk-Aware Active Inverse Reinforcement Learning
Arxiv
7+阅读 · 2019年1月8日
Arxiv
12+阅读 · 2018年9月5日
Arxiv
3+阅读 · 2018年6月1日
Top
微信扫码咨询专知VIP会员