【数据中台】什么是数据中台?

2019 年 7 月 30 日 产业智能官
什么是数据中台

数据中台是全新的架构变革。过去三十年,企业数据管理都以传统的IT架构为基础。每当技术部门为业务部门解决问题时,需要从业务需求的探查、技术壁垒的打通等从上到下各个方面来建设新系统。每个系统的建成都自成一体,各自满足业务部门的需求。这种情况不仅耗费各部门大量的精力也使得各个系统难以打通管理,无法形成更强大的数据能力。

图片来源:国云数据


此外,目前的IT辅助管理系统是以欧美国家发达的制造业为奠定基础的,其更多的功能是采集数据,各个系统数据孤立存在、烟囱林立。在今天新的产业互联网时代,企业需要快速响应外部变化,建立多维度的数据以重塑DT的应用,因此传统的架构并不适合现在的市场发展情况,数据中台的架构颠覆了过去三十年传统的IT数据管理架构。

IT长不出DT。IT是CRM等软件管理系统进行数据采集的信息技术,DT是基于IT产生的数据进行智能化应用的技术,前者以信息技术为主,后者以数据技术为主。IT作为传统的数据管理架构是无法长出DT的。

如果以通俗化的生活案例来解说的话,数据中台的工作原理如同五星级饭店为满足食客需求的工作过程。数据类似于大型饭店中所用的果蔬肉等基础食材,CRM、ERP等管理系统将数据采集到,放到数据库里。为满足不同用户(食客的用餐)需求,企业需要将数据库中汇总的数据放到中央厨房以备业务人员(厨师)制作。数据放置的过程同步功能将数据分门别类,就像通过物流系统运送不同的食材到食材库里,将食材按类分拨。同时,数据治理技术需要将数据清洗好,对于某些特殊要求的数据还需要深加工等。

图片来源:Unsplash

通过以上处理方式,数据才能提供给业务人员或者技术人员使用,相当于将分类规整好、清洗好的食材交给厨师制作一样。业务人员或者技术人员在使用时会根据不同的需求对数据进行组合搭配,即对数据进行建模。同理,厨师在烹炒时也会添加佐料、配方等,使菜肴更加美味。数据通过建模生成了不同的应用方向,再通过可视化将其进行美化,比如厨师的添油加醋等,最终为用户(食客)呈现契合需求的应用产品(佳肴)。

在企业有了数据的“中央厨房”之前,某个方向的应用产品的生成需要从数据治理、清洗、建模等从头到尾的流程都做一遍,只形成了这款产品的加工链,其他方向的数据没有实现同步、清洗,从而打通,烟囱式的壁垒由此产生。当另一用户的业务需求与之前做的产品应用方向有重合时,仍然需要从头再做。

在IT管理系统时代,这样漫长的周期为三到六个月,且过程中不能有太多的变更,也就是说用户不能根据业务变化随时调整。这样的应用研发不仅进度周期长,而且重复建设某些共性的功能,通用性功能无法沉淀,某些能力无法实现共享,最终造成企业资源和成本的浪费。

如今,若企业建立一套完整的数据中台体系,相当于建立了从物流系统、仓储系统等一体化的中央厨房系统。该体系将食材加工装配好,业务人员可以直接按需“下单”,定制化应用立即生成。可见,数据中台可为最终的用户,比如业务人员(厨师),比如用户(食客)提供成本低、灵活度高的业务处理平台。如果某个应用受到用户热烈欢迎,可以依靠数据中台多元化、共享的功能为其提供持续性地服务。如此,企业可以依靠强大的数据中台服务能力提升竞争力,保持市场有利地位。

数据中台是能力共享平台。如今,很多产品应用研发初始都在强调功能性,各个功能存在或多或少的重复性。然而企业对这些产品功能的定义并不相同。当客户产生某些需求时,由于定义的不同,产品功能和功能间的数据很难打通,也无法实现能力共享。

在数据中台基础上的应用开发并不强调功能性,更注重能力的共享。这种能力就像水电煤一样可以直接向外输出使用,从而满足业务部门和用户的不同需求。

数据中台是有机的一体化平台。数据中台是包含模型资产、应用资产、工具资产、技术资产为一体的赋能平台,并不是纯技术概念。数据中台不只是输出技术能力,数据能力、资产能力、应用能力以及制度能力等也是中台的价值输出。数据中台的核心点在于赋能业务部门及用户,以应用为出发点,快速响应外部的需求,帮助业务部门产生业绩,形成业务增长。

数据中台是新一代的数据架构思路,其工作原理是以应用为出发点,进行数据整合,最终呈现的结果是数据应用的平台。随着未来科学技术愈发先进,人们的需求千变万化,各种应用的产生也就顺其自然,而以纯技术为导向的数据中台很难快速响应外部应用需求

数据中台是一种端到端的技术平台,而不是一堆API的接口,其更注重业务端的使用和业务价值的体现。传统API能力输出模式无法满足企业应用产品多变的需求,其需要中间层的技术转化,无法快速、高效地产生应用。传统企业搭建数据中台,如果仅完成了API接口的创建,仅仅是完成了数据中台建设的其中一环。因此,数据中台并不是端到端的技术赋能平台

可见,数据中台的建设需要业务部门灵活的应用需求,技术部门强大的数据治理、数据建模等能力,以及公司各个部门和资产的多维配合。它是集业务、技术和公司资产的有机结合体,并不是片面的模块的组合体

数据中台是一种新的技术建设思路数据中台作为一种新的建设思路,打破了企业以前传统的功能式和集成式的建设思路。企业以前产品打造的过程先依靠工程师搭建基础技术架构,架构搭建完成后再添加应用功能。这种建设思路比较适合产品模式稳定的企业,对于应用需求多变、应用出发点无法一时统一的公司来说并不是最佳的选择。这种因为工程或者基础设施建设出的产品最终会无法为业务部门提供更多价值。因此,以应用为核心思考点的建设思路才是企业保持长久生命力的关键,而数据中台的建设将帮助企业改变传统的产品应用建设方式

在过去,传统企业为提高管理效率会部署CRM、ERP等多种管理系统,这种管理系统在企业管理基础数据,简单分析业务等方面为企业主运营决策提供了一定的参考价值。但是,当企业外部需求越来越多变,企业管理系统仅仅进行简单的数据采集是无法满足市场需求的。

企业主通过将多个管理系统的账号打通,并增设各种分析工具等来加强管理,这种集成式的建设思路仍无法真正赋能业务对象。数据应用多样化,大量的临时的、即时的、分散的需求不时产生,数据模型需要根据业务重点经常调整,企业主仅仅通过联通各个管理系统账号是无法响应需求的。

多个管理系统和分析工具的集成虽然为企业主解决了部分问题,但是各个系统产品的建设思路不一致,产品与产品间既有重叠功能,也有边界划分,且产品之间定义并不相同,无法形成统一的、无缝结合的数据资产。产品与产品之间的技术出入会导致应用的出错,最终影响用户对产品的信任。由此,集成式的建设方式给技术部门形成巨大的维护成本和治理成本,并没有达到数据中台建设的真正目的。

数据中台的基本能力

数据中台具有数据服务的能力。数据中台帮助业务部门建立工作台,通过工作台可以快速获取到数据相关服务,包括数据提取、数据分析、数据推送、数据回流等服务;数据中台可以将脏乱差的数据进行加工、治理、切分、建模、打标签等。

数据中台可以使业务人员具备数据应用开发的能力。业务人员可以根据自己业务单元的需求,做深度的应用开发,比如精准、智能、智慧等相关应用,这些应用可以独立变成产品。

数据中台具有强大的海量数据处理能力。数据中台对数据治理能力、融合能力、采集能力、同步能力等为数据应用提供了强大的基础支持。无论企业生产、运营、消费者溯源、供应商维护、外部公共数据等不同维度的数据,数据中台都可以通过不同的功能实现数据的打通、共享。

由于不同的业务场景需要不同规模的计算平台来处理海量数据。数据中台的建设帮助业务人员根据应用需求随时调度计算能力。

数据中台具有数据开发的能力。数据中台中分析工具、挖掘工具、清洗工具等不同数据工具的设置可以帮助上下游企业和外部用户直接开发应用。数据中台可以将上下游工具进行傻瓜式包装,比如应用开发、应用复制、应用使用、应用评价、应用分享等功能的设置,帮助企业不同领域的用户实现数据共享、应用共享。

数据中台具备自学习和自动完善的能力。数据中台赋能业务人员的特性决定了其具有自学习的能力。中台可以通过不断的能力叠加,将数据和公司资产进行良性的循环和回流,赋能企业业务和技术部门,为企业建成一个具有滚动的、增长的、变化的自学习能力平台。

数据中台具有资产沉淀能力。用户在使用数据的过程中会自动地沉淀出高价值的数据,通过数据中台的融通能力,将这些有价值的数据进行良性的循环与回流。企业因此对自身的用户数据、会员数据、人力数据等认识加深。这样的沉淀能力可以为公司提高核心竞争力。另外,公司内部高价值的资产,比如模型资产、IT资产、DT资产、数据资产、应用资产,以及应用资产中的用户资产、画像资产等均可以通过中台沉淀下来,为公司日后的应用提供更多的支持。长期以往的沉淀帮助公司建立核心竞争力,使企业在数字化转型中先行一步,快速布局数字化市场竞争。

数据中台具有数据质量自动跟踪的能力。数据在使用过程中往往有多部门多角色参与,各个部门会定义多种多样的数据指标、标签和使用方式,长期以往数据治理体系将会越来越复杂。一旦数据无法跟踪,会导致前端的数据应用出错,最终使得企业决策失误,付出较大代价。数据中台可以避免以上问题的出现,数据质量智能追踪和血缘分析会跟踪数据的血缘系统,确保数据质量。

数据中台具备数据融合打通的能力。随着企业业务多变,数据互联互通变得越来越重要。数据中台将数据定义和意义保持一致,使数据真正实时打通。

数据中台具有IT系统和DT系统风险隔离的能力。IT系统在企业数据采集、管理方面发挥着作用。业务需求变化快,而IT系统却无法随着DT系统变化,DT系统有着自身存在的意义。两个系统的目标、定位不同,必然导致数据应用出现分歧。数据中台的建立可以帮助企业对数据进行风险隔离,确保一方不影响另一方。

数据中台应用方式

数据中台应用方式一为帮助业务部门灵活使用数据分析。数据中台改变了以往业务部门数据分析技术能力不足的窘况。在数据中台出现以前,业务部门因为技术能力的缺乏,面对分析需求时只能借助技术部门的辅助。中间经业务部门、技术部门、分析部门等各部门的沟通与配合在耗费了大量的时间成本和沟通成本的情况下,也耽误了技术部门做更有价值的项目的机会。

数据中台打破了数据的复杂格式,使得数据实现共享,在数据分析技术方面为业务部门开通了绿灯,业务人员可以自由地进行数据分析。

数据中台应用方式二为帮助技术单元和业务单元,甚至外部单元灵活地创建应用。企业内部技术部门、业务部门,甚至外部供应商等第三方也可以基于数据中台完成应用的创建。数据中台帮助企业搭建行业生态共享平台,造福企业内外部人员及上下游企业客户。

数据中台应用方式三为技术部门可以不断构建应用能力,沉淀数据资产和价值资产。数据中台使业务、技术、公司资产实现了打通、合并、共享,数据资产的形成使技术部门可以形成持续的应用开发能力。反之,推陈出新的应用产生的数据又为新应用的诞生提供了肥沃的土壤,双方形成闭环。

数据中台的建设内容

数据中台在SaaS层、DaaS层、PaaS层、IaaS层具有不同的应用内容

SaaS层:从技术角度讲SaaS层是业务用户或技术用户直接可以使用的服务和功能,包括数据分析工具、数据挖掘工具、可视化工具、清洗工具、建模工具等不同的数据工具;还包括不同层次的数据应用,如大屏可视化应用、决策分析系统、用户画像系统、精准推荐系统、AI应用等。

DaaS层:用户可以通过DaaS层获取数据直接的服务。最常见的服务有客户数据获取、原始数据治理服务、原始数据和IT数据互联互通服务、数据质量监控服务、数据关系分析服务等。

PaaS层:该层具备更深度的能力,主要向公司内部数据治理团队、数据团队和技术团队提供服务。基于PaaS层可以构建出更优良地DaaS层和SaaS层。这层要与基本的数据治理、清洗、建模、模型管理、模型共享、应用开发、应用发布等工具和能力有所区分。在该层有很多调度PaaS的能力,包括同步系统、调度系统。

IaaS层:主要解决数据计算资源和存储资源等基础的能力,包括大数据集群计算、分布式计算、数据库等计算资源。该层可对流失计算、数据调度系统和计算资源进行存储。该层具备数据最基本能力,包括数据安全等。该层可以帮助用户从IT中获取能力,又能产生DT的应用,同时又能回流到IT里面支撑IT发展,渗透到IT业务环境中,提高企业业务能力。

——国云数据马晓东


先进制造业+工业互联网




产业智能官  AI-CPS


加入知识星球“产业智能研究院”:先进制造业OT(自动化+机器人+工艺+精益)和工业互联网IT(云计算+大数据+物联网+区块链+人工智能)产业智能化技术深度融合,在场景中构建“状态感知-实时分析-自主决策-精准执行-学习提升”的产业智能化平台;实现产业转型升级、DT驱动业务、价值创新创造的产业互联生态链。


产业智能化平台作为第四次工业革命的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,并创造新的强大引擎; 重构设计、生产、物流、服务等经济活动各环节,形成从宏观到微观各领域的智能化新需求,催生新技术、新产品、新产业、新业态和新模式;引发经济结构重大变革,深刻改变人类生产生活方式和思维模式,实现社会生产力的整体跃升。

产业智能化技术分支用来的今天,制造业者必须了解如何将“智能技术”全面渗入整个公司、产品、业务等商业场景中, 利用工业互联网形成数字化、网络化和智能化力量,实现行业的重新布局、企业的重新构建和焕然新生。

版权声明产业智能官(ID:AI-CPS推荐的文章,除非确实无法确认,我们都会注明作者和来源,涉权烦请联系协商解决,联系、投稿邮箱:erp_vip@hotmail.com。




登录查看更多
17

相关内容

干净的数据:数据清洗入门与实践,204页pdf
专知会员服务
161+阅读 · 2020年5月14日
德勤:2020技术趋势报告,120页pdf
专知会员服务
190+阅读 · 2020年3月31日
《人工智能2020:落地挑战与应对 》56页pdf
专知会员服务
195+阅读 · 2020年3月8日
【新加坡国立大学】深度学习时代数据库:挑战与机会
专知会员服务
33+阅读 · 2020年3月6日
领域应用 | 到底什么时候使用图数据库?
开放知识图谱
16+阅读 · 2019年4月19日
【干货】电商数据中台如何构建?
AliData
11+阅读 · 2019年4月4日
企业数据AI化战略:从数据中台到AI中台
36大数据
11+阅读 · 2019年2月18日
2017全球大数据产业八领域典型公司盘点分析
人工智能学家
3+阅读 · 2017年12月6日
【大数据】如何用大数据构建精准用户画像?
产业智能官
12+阅读 · 2017年9月21日
Generating Rationales in Visual Question Answering
Arxiv
5+阅读 · 2020年4月4日
Arxiv
6+阅读 · 2018年2月8日
VIP会员
相关资讯
领域应用 | 到底什么时候使用图数据库?
开放知识图谱
16+阅读 · 2019年4月19日
【干货】电商数据中台如何构建?
AliData
11+阅读 · 2019年4月4日
企业数据AI化战略:从数据中台到AI中台
36大数据
11+阅读 · 2019年2月18日
2017全球大数据产业八领域典型公司盘点分析
人工智能学家
3+阅读 · 2017年12月6日
【大数据】如何用大数据构建精准用户画像?
产业智能官
12+阅读 · 2017年9月21日
Top
微信扫码咨询专知VIP会员