这可能是全网最全的数据仓库建设方法论!
为了解决多数据源导致的口径不一致、数据无关联、数据质量差、缺少历史数据、开发效率低等问题,企业需要构建企业级数据仓库,对数据进行规整和高效利用。除此以外,由于直连业务系统支撑多方报表导致读写交叉性能降低,影响正常业务系统使用的问题也可解决。
构建企业级数据仓库的步骤分为调研、数仓设计、数仓实施和测试上线四个主要环节。
调研前期,需要明确本次项目在此阶段成功的要素,其次是划分责任矩阵,收集相关资料并制定合适的调研策略。与用户需求相关的信息应该足够的详细。最终要交付给最终用户项目计划及需求说明,需要的情况下需要制定灾备计划,以便数据仓库可以从事故中恢复。
调研责任矩阵
调研执行分为四步骤:
第一步对本次项目的目标,整体平台的范围和当前IT的技术架构进行调研与整理;第二步针对本期项目涉及业务部门进行单独访谈,明确指标,确认口径,梳理前端样式与功能并确定相应的数据标准;第三步可根据上一轮调研结果所设计的蓝图进行确认和修改并在数据侧对底层数据进行探源;最后将调研结果与方案蓝图进行最终的多方确认并审核签字。
这一阶段的交付物为系统蓝图框架与当前数据基础和质量情况表等,具体的执行过程见下图:
指标确认框架
数仓构建的核心工作是分层及建模,分层架构设计是为应用数据资源采集、存储、处理和交换提供建设性依据,而数据模型将决定数据仓库系统的增长性和性能,数仓一般分为 ODS(贴源层)层、DW 层(数据仓储层)、DM 层(数据集市层)三层架构,依据企业实际情况会有所调整,而数仓模型大多采用维度建模和范式建模。
数据分层:
每一个数据层都有它的作用域,在使用表的时候能更方便地定位和理解,因此需要针对数据进行分层建设,且数据分层也利于数据血缘追踪、屏蔽原始数据的异常,通过开发一些中间层,还可以起到减少重复开发的作用。
数仓通用技术框架
数仓建模的流程:
数仓模型的设计,按照概念模型(主题域模型)——逻辑模型——物理模型的流程进行,逻辑模型和物理模型通常采用维度建模的办法,以星型和雪花型模型来组织数据,维度建模的两个基本元素是事实表和维度表。而维度建模也分为确定业务主题、定义粒度、确定维度和确认事实表四个步骤。该阶段的交付物为针对数据源的概念模型、逻辑模型和物理模型。
数仓建模一般流程
DWD层维度建模步骤
ETL过程常常需要最长的项目时长,可能会占用数仓开发的50%及以上,因为获取源数据、理解业务规则、逻辑和物理数据模型需要花费大量时间。ETL 通过从源系统数据库实时同步数据至数据仓库贴源层,基础层、通用层、应用层基于贴源层的增量数据以实时指标加工的规则进行定时(T 1 天)加工处理。
ETL过程
测试上线
测试上线的主要目的是为了测试当前数仓开发完毕后数据是否准确,数据相应的速度是否及时,包括 ETL 任务的各环节是否出现异常等,测试完毕通过业务确认后即可上线。
数据规范
数仓建设的规范是为了后续开发人员可以遵从规范,培养良好的习惯,也可以提升数仓开发的可维护性,便于用户的沟通及交流。数据规范的内容包括数仓设计规范、命名规范、ETL 规范、报表规范等,数据规范建设为后续的数据治理及数据资产的管理建立了良好的基础。
数仓规范文档
马斯克计划把芯片植入大脑 这个想法是好事还是坏事?
把人类的大脑变成机械并不是一件好事。大家可以想象一下一个场景,就是自己只要动动脑子就可以完成对于电脑或者手机的操作。这是不是非常的方便呢?甚至我们可以在脑海当中调动出来一个电脑,把自己想要了解的知识全部都会调动出来。要是真的有着这么样的技术,大家会不会感觉科技进步了呢?马斯克就曾经提出过这样一个计划,他认为把芯片植入人类大脑之后,可能会让人类变得更强。人脑交互计划我要新鲜事2023-05-15 20:41:420000宇宙太大了:地球如果只有4厘米,等比缩小的宇宙会有多大?
关于数字,从一到一百一千到一万,甚至更大的数字,从我们学习数数开始,一种对于数字的概念就在我们心中逐渐成形,但真正有趣的是沿着这些数字继续发展成为未知的更巨大的数字。我要新鲜事2023-05-14 11:46:460000可拆卸电池手机才是未来 2023我们应该站起来了!
前几天,戴夫同学的一篇《200W充电都堵不住嘴2023年还有人鼓吹可拆卸电池?》引发了不少网友的热议,看完评论我发现大多数人还是比较理智的,认为可拆卸电池手机更有优势,快充虽好但也确实有弊端。戴夫认为我们坚持想要可拆卸电池手机的人都活在上个世纪,那我只能表示你真的太年轻了。我要新鲜事2023-07-11 10:27:510001什么是微观世界的粒子,夸克究竟是一种什么东西,有什么作用呢
根据科学家的目前的研究和发现,已知地球之上存在的最小的物质单位,它的名字叫做夸克。说这是一种东西,不如说这是一种组成物质的基本单位。这么小的一种东西,所存在的数量一定是非常的巨大的,这样的一种参与物质之间的相互作用的单元,是目前可以观察到的世界上最小的东西。至于宇宙中是否还存在有其他的东西,又或者说还是因为现在的技术水平无法观察到,目前还需要科学家们的进一步考察。我要新鲜事2023-05-14 16:26:520000美国卫星3000多颗 是技术创新 还是巨大威胁?(卫星隐患)
美国星链卫星已经发射了3000多颗,的确给太空环境带来隐患。美国的星链计划受到了很大的争议,尽管能够给人们的生活提供便利,可是伴随而来的安全隐患是不能忽视。星链卫星美国的星链卫星计划自2015年以来,发射升空的卫星数量多达3000多颗,他们并不满足于当前的卫星数量,下一步计划要发射更多的卫星,总数量达到42000颗。很多人都在怀疑美国星链计划的目的,似乎并不像他们宣称改变通讯那么简单。我要新鲜事2023-03-11 18:53:100001