数据蒋堂 | 开放的计算能力为数据库瘦身

会员服务 ·

数据蒋堂 | 开放的计算能力为数据库瘦身

2017 年 7 月 21 日 数据派THU 蒋步星

来源：数据蒋堂

作者：蒋步星

本文长度为1234字，建议阅读4分钟

本文讲述如何为数据库瘦身。

我们在上一期谈到，数据库的臃肿，也就是过多的中间表以及相关存储过程，是由于其计算封闭性造成的。如果能够实现独立的计算引擎，使计算不再依赖于数据库提供，那么就可以为数据库瘦身了。

内部来源的中间数据不必再以数据表的形式落地在数据库中，而可以放到文件系统中，由外部计算引擎提供进一步的计算能力。对于只读的中间数据，使用文件存储时不需要考虑再改写，可以更为紧致并采用一定的压缩手段，而且在访问时也不必考虑事务一致性，机制大为简化，这样能获得比数据库更好的吞吐性能。文件系统还可以采用树形组织方案，将各个应用（模块）的中间数据分类管理好，使其更加方便，并且可使中间数据将从属于应用模块，不会被其它模块访问到。当有模块修改或下线时，相应的中间数据可以跟随修改，而不必担心被共享而产生的耦合问题。用于生成中间数据的存储过程也可以移到数据库外部，作为应用程序的一部分，同样不会产生耦合问题。

外部来源的中间表也可以减少甚至取消。ETL过程的E、T步骤可以直接在数据库外部由计算引擎实施，在完成清洗转换之后再加载进数据库。E、T步骤中不占用数据库的计算资源，当然也不需要建立中间表来保存这些数据，数据库只要保存最终需要的结果即可。

多样性数据源的数据呈现也可以直接由计算引擎实现数据源和数据库的混合计算，这样就不必将外部数据源导入数据库，有效减少中间表。在数据呈现时由计算引擎临时向数据源发出取数指令以获得最新的数据，还可以获得更好的实时性，而采用中间表方式一般只能定期把外部数据源转入，无法看到最新的外部数据。而且，不将外部数据导入数据库，还能继续利用原数据源的某些优势，比如NoSQL数据库对于按键值查找有很好的性能，还能较好地解决数据结构多样性的问题。另外，专门设计的计算引擎如果再能处理好XML,json这类多层数据，在计算描述上也比传统的关系数据库更有优势。

除了必须的计算能力本身之外，要用于数据库瘦身的计算引擎必须拥有较好的开放性和可集成性。

开放性是指计算能力并不依赖于某种存储体系，而可以计算各种来源的数据，比如文件系统中的数据，这样就能利用适合的存储方案来组织管理中间数据。如果计算体系要求特有的数据存储体系（比如数据库），那只是把数据库的臃肿换了一个地方继续臃肿。可集成性是指计算能力可以嵌入到应用程序中，成为应用的一部分，不能象数据库那样是个独立的进程，这样就不会被其它应用（模块）共享，避免出现应用间的耦合问题。

从这个意义上讲，Hadoop体系（包括Spark）虽然有一定的计算能力，但并不合适充当开放计算引擎的作用。Hadoop有一定的开放性，可以计算体系外的数据，但并不常用，而且性能较差；Hadoop是以独立进程方式运行的庞大体系，基本上没有可集成性，很难完全嵌入到应用程序中。

有了开放可集成的计算能力，相当于实现了计算和存储的分离，在设计应用的体系结构时就会更为得心应手。不必为了获得计算能力而部署多余的数据库或者扩容数据库，让数据库专心做它最合适做的事情，将资源效用发挥到最大。

专栏作者简介

润乾软件创始人、首席科学家

清华大学计算机硕士，著有《非线性报表模型原理》等，1989年，中国首个国际奥林匹克数学竞赛团体冠军成员，个人金牌；2000年，创立润乾公司；2004年，首次在润乾报表中提出非线性报表模型，完美解决了中国式复杂报表制表难题，目前该模型已经成为报表行业的标准；2014年，经过7年开发，润乾软件发布不依赖关系代数模型的计算引擎——集算器，有效地提高了复杂结构化大数据计算的开发和运算效率；2015年，润乾软件被福布斯中文网站评为“2015福布斯中国非上市潜力企业100强”；2016年，荣获中国电子信息产业发展研究院评选的“2016年中国软件和信息服务业十大领军人物”；2017年, 自主创新研发新一代的数据仓库、云数据库等产品即将面世。

数据蒋堂

《数据蒋堂》的作者蒋步星，从事信息系统建设和数据处理长达20多年的时间。他丰富的工程经验与深厚的理论功底相互融合、创新思想与传统观念的相互碰撞，虚拟与现实的相互交织，产生出了一篇篇的沥血之作。此连载的内容涉及从数据呈现、采集到加工计算再到存储以及挖掘等各个方面。大可观数据世界之远景、小可看技术疑难之细节。针对数据领域一些技术难点，站在研发人员的角度从浅入深，进行全方位、360度无死角深度剖析；对于一些业内观点，站在技术人员角度阐述自己的思考和理解。蒋步星还会对大数据的发展，站在业内专家角度给予预测和推断。静下心来认真研读你会发现，《数据蒋堂》的文章，有的会让用户避免重复前人走过的弯路，有的会让攻城狮面对扎心的难题茅塞顿开，有的会为初入行业的读者提供一把开启数据世界的钥匙，有的甚至会让业内专家大跌眼镜，产生思想交锋。

往期回顾：

数据蒋堂 | 功夫都在报表外--漫谈报表性能优化

数据蒋堂 | 非结构化数据分析是忽悠？

数据蒋堂 | 多维分析的后台性能优化手段

编辑：王璇

校对：叶龚兵

为保证发文质量、树立口碑，数据派现设立“错别字基金”，鼓励读者积极纠错。

若您在阅读文章过程中发现任何错误，请在文末留言，或到后台反馈，经小编确认后，数据派将向检举读者发8.8元红包。

同一位读者指出同一篇文章多处错误，奖金不变。不同读者指出同一处错误，奖励第一位读者。

感谢一直以来您的关注和支持，希望您能够监督数据派产出更加高质的内容。