数据中台前世今生五:数据中台两大核心理念One Data、One Service

2022年10月20日11:33:36 科技 1739

网上有很多讲“如何建设数据中台”的文章,大家的观点各不相同。

  • 有的说,数据中台是一种数据建设的方法论,按照数据中台设计方法和规范实施就可以建成数据中台了;
  • 也有人认为,数据中台的背后是数据部门组织架构的变更,把原先分散的组织架构形成一个统一的中台部门,就建成了数据中台;
  • 此外,你可能还听到过一些大数据公司说,他们可以卖支撑数据中台建设的产品技术。

那么,数据中台到底如何建设呢?

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

六大核心问题的解决都在于两大理念的推进

其实早在2016年,阿里巴巴就提出了数据中台建设的两大核心理念:One Data, One Service,这也是世界公认的解决数字化转型现阶段问题的方法,用一句话定义就是:所有数据只加工一次,数据即服务


01

One Data

One Data就是指所有数据只加工一次

例如,电商场景,数据中台就是要在整个电商业务形成一个公共数据层,协同跨部门的小数仓,实现数据的复用,不会因为不同的应用场景,不同的部门数据重复加工。

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

阿里数据中台全景图

那么,如何去做才能实现数据只加工一次呢?有以下五点:

  • 分主题域管理
  • 命名规范定义
  • 指标一致
  • 数据模型复用
  • 数据完善

试想一下,现在你着手搭建数据中台,第一步,面对企业存在几万张表,同时又有几十个数据开发维护这些表,你如何来确保这些表的管理效率?

  • 首先,你需要划分主题域。我们可以将这几万张表划到不同的主题域中,比如在电商业务中,商品、交易、流量、用户、售后、配送、供应链都可以作为主题域。标准且准确的主题域划分,是相对稳定的,尽可能地覆盖绝大多数的表。(我们可以理解为数据目录)

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

数据目录:方便进行表的管理以及基于目录的数据检索

  • 除此之外,还要对表的命名进行规范化统一,表的名称中最好能够携带表的主题域、业务过程、分层以及分区信息。
  • 接下来,为了实现模型的复用,数据中台的数据存储适合采用分层设计方式,常见的分层包括:ODS原始数据层、DWD明细数据层、DWS轻度汇总数据层、ADS/DM应用数据层/数据集市层。
  • 最后,数据中台的数据必须尽可能的覆盖所有的业务过程,数据中台中每一层的数据也要尽可能完善,让数据使用者尽可能的使用汇总后的数据。

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

统一数据规范

综上,One Data 体系的目标是构建统一的数据规范标准,让数据成为一种资产,而不是成本。

02

One Service

One Service即数据即服务,强调数据中台中的数据应该是通过API 接口的方式被访问。

那么,为什么数据一定要通过 API 接口的方式被访问,不通过 API 接口,直接提供数据表给用户又存在哪些问题呢?

如果你是数据应用开发,当你要开发一个数据产品时,首先要把数据导出到不同的查询引擎上:数据量小的使用MySQL;大的可能用到HBase;需要多维分析的可能需要Greenplum;实时性要求高的需要用到Redis

因此,不同的查询引擎,应用开发需要定制不同的访问接口

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

使用数据API大大降低数据开发人员工作量

如果你是一个数据开发,当某个任务无法按时产出,发生异常时,想要了解这个表可能会影响到下游的哪些应用或者报表,但是却发现单纯依赖表与表的血缘无法触及应用,根本无法知道最后的这些表被哪些应用访问。

与此同时,当你想下线一张表时,因为不知道谁访问了这张表,无法实施,最终造成了“上线容易,下线难“的窘境。

而 API 接口一方面对应用开发屏蔽了底层数据存储,使用统一标准的 API 接口查询数据,提高了数据接入的速度。

另一方面,对于数据开发,提高了数据应用的管理效率,建立了表到应用的链路关系,一旦出现问题需要追查数据,便清晰地通过链路最终到指定的表和字段。

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

使用数据API将数据血缘延续到应用层,问题修复更加方便

那么,如何实现数据服务化呢?有以下四点:

  • 屏蔽异构数据源
  • 把控数据网关
  • 提供面向用户的逻辑模型
  • 保证性能和稳定性

屏蔽异构数据源:数据服务必须要能够支撑类型丰富的查询引擎,满足不同场景下数据的查询需求,常见的有 MySQL、HBase、Greenplum、Redis、Elasticsearch 等。

数据中台前世今生五:数据中台两大核心理念One Data、One Service - 天天要闻

数据网关:要实现包括权限、监控、流控、日志在内的一系列管控能力,哪个应用的哪个页面访问了哪个模型,要做到实时跟踪,如果有一些模型长时间没有被访问,应该予以下线。

使用数据的每个应用都应该通过accesskey和secretkey实现身份认证和接口权限的管理。另外,访问日志可以方便在访问出现问题时,加快排查速度。

逻辑模型:从用户的视角出发,屏蔽底层的模型设计的实现,面向用户提供逻辑模型。它可以帮助应用开发者屏蔽底层的数据物理实现,实现相同粒度的数据构造一个逻辑模型,简化了数据接入的复杂度。

性能和稳定性:由于数据服务侵入到用户的访问链路,所以对服务的可用性和性能都有很高的要求,数据服务必须是无状态的,可以做到横向扩展。

One Service 体系的目标是将散落的珍珠(数据)串成项链(链条),同时提高数据的共享能力,让数据可以被用得好,用得爽!

篇幅有限,“数据中台的底层技术”和现在的行业趋势“轻量级数据中台”将在后面陆续介绍,想要提前获得关于数据中台的全套学习资料,可以点赞关注然后私信麦聪。

猜你想看:

数据中台:始于阿里,兴于DaaS

数据中台前世今生(四):从数据中台解决的问题考虑企业适配性

数据中台前世今生(三):互联网下半场+数字化转型=数据中台

数据中台前世今生二:从数据湖到大数据平台看数据应用需求发展

数据中台的前世今生(一):数据仓库——数据应用需求的涌现

麦聪软件,全球领先的DaaS厂商,轻量级数据中台领导者。世界500强集团中已有30多家选用,两年内帮助近400家企业数字化转型更进一步。核心产品麦聪DaaS平台包含统一数据管理和统一数据服务两大模块,具备数据集成、数据开发、数据质量、数据服务相关功能,欢迎大家带着企业数字化问题与我们一起讨论。

科技分类资讯推荐

阔步向“新”行 奋力“打头阵” - 天天要闻

阔步向“新”行 奋力“打头阵”

为更好贯彻落实省委全会精神,本报今起推出“坚决扛好经济大省挑大梁责任·评论员连线”栏目,紧扣“四个着力点”,由新华日报评论员连线13个设区市党报评论员,以“对话+解析”形式立体展现全省各地牢记嘱托、感恩奋进、走在前列的最新实践。
小米MIX Flip真机暴击:外屏香到想秒下单 内屏折痕把我劝退了 - 天天要闻

小米MIX Flip真机暴击:外屏香到想秒下单 内屏折痕把我劝退了

小米老用户第一次摸MIX Flip,当场被外屏种草,但仔细盘了盘细节又冷静下来…咱今儿不扯虚的,用“想冲”和“想退”两面唠明白。先聊优点,摸过真机才敢这么说:外屏是真·刚需设计,4.01英寸外屏刷抖音不用展开,折成支架放桌上追剧特方便,比拿直板机省劲儿,后置镜头自拍时外屏能当预览屏,拍人清楚,徕卡影调颜色不夸张...
新能源车产能过剩的时代提前到来,特斯拉能避免颓势吗? - 天天要闻

新能源车产能过剩的时代提前到来,特斯拉能避免颓势吗?

目前的消息是,为加快补齐乡村地区新能源汽车消费使用短板,工信部、国家发改委、农业农村部、商务部、国家能源局组织开展2025年新能源汽车下乡活动。这背后,就是新能源车产能过剩的时代提前到来,需要开拓新的市场。在这次“下乡”活动中,特斯拉也参与
荣耀400系列今日开售:国补售价2124元起 全系2亿主摄 - 天天要闻

荣耀400系列今日开售:国补售价2124元起 全系2亿主摄

站长之家(ChinaZ.com)6月6日 消息:今日,荣耀400系列正式开启销售,该系列包含荣耀400和荣耀400Pro两款机型,起售价为2499元,在享受国家补贴后,到手价低至2124元起,这一价格在市场上颇具竞争力。在外观设计上,荣耀400系列提供了海风蓝、流沙粉、揽月银、幻夜黑4款配色供消费者选择。其中,海风蓝和流沙粉两款配色采用...
特朗普政府将“AI安全研究所”去“安全化” - 天天要闻

特朗普政府将“AI安全研究所”去“安全化”

特朗普政府将“AI安全研究所”去“安全化”,更名为“人工智能标准与创新中心”……特朗普政府宣布对联邦政府主要人工智能监管机构进行重大改组,标志着华盛顿在 AI 监管和安全方面的政策方向发生了剧烈转变。商务部长霍华德·勒特尼克(Howard Lutnick)周二表示,由前总统乔·拜登于 2023 年 11 月设立的美国人工智能安全...
打印店用微信传输要留意个人隐私引热议:务必记得删除 - 天天要闻

打印店用微信传输要留意个人隐私引热议:务必记得删除

站长之家(ChinaZ.com)6月6日 消息:日前,微博上一则关于打印店使用微信传输文件时需留意个人隐私的话题引发网友广泛讨论。腾讯员工“客村小蒋”发文指出,在打印店等公共场所的电脑上登录微信传输文件存在隐私风险,不过这一问题有相应的解决方法。“客村小蒋”介绍,当需要在打印店电脑或其他公共电脑上登录微信时,用户...
华为MateBook Pro鸿蒙笔记本今日开售:7999元起 - 天天要闻

华为MateBook Pro鸿蒙笔记本今日开售:7999元起

站长之家(ChinaZ.com)6月6日 消息:今日10:08,全球首款搭载鸿蒙操作系统的PC产品——华为MateBook Pro鸿蒙笔记本正式开启销售。华为MateBook Pro鸿蒙笔记本在原有MateBook X Pro的基础上进行了全面优化升级,核心亮点在于搭载了全新的HarmonyOS5鸿蒙电脑操作系统。该笔记本配备了一块14.2英寸的触控屏,分辨