这可能是全网最全的数据仓库建设方法论!
为了解决多数据源导致的口径不一致、数据无关联、数据质量差、缺少历史数据、开发效率低等问题,企业需要构建企业级数据仓库,对数据进行规整和高效利用。除此以外,由于直连业务系统支撑多方报表导致读写交叉性能降低,影响正常业务系统使用的问题也可解决。
构建企业级数据仓库的步骤分为调研、数仓设计、数仓实施和测试上线四个主要环节。

调研前期,需要明确本次项目在此阶段成功的要素,其次是划分责任矩阵,收集相关资料并制定合适的调研策略。与用户需求相关的信息应该足够的详细。最终要交付给最终用户项目计划及需求说明,需要的情况下需要制定灾备计划,以便数据仓库可以从事故中恢复。

调研责任矩阵
调研执行分为四步骤:
第一步对本次项目的目标,整体平台的范围和当前IT的技术架构进行调研与整理;第二步针对本期项目涉及业务部门进行单独访谈,明确指标,确认口径,梳理前端样式与功能并确定相应的数据标准;第三步可根据上一轮调研结果所设计的蓝图进行确认和修改并在数据侧对底层数据进行探源;最后将调研结果与方案蓝图进行最终的多方确认并审核签字。
这一阶段的交付物为系统蓝图框架与当前数据基础和质量情况表等,具体的执行过程见下图:


指标确认框架
数仓构建的核心工作是分层及建模,分层架构设计是为应用数据资源采集、存储、处理和交换提供建设性依据,而数据模型将决定数据仓库系统的增长性和性能,数仓一般分为 ODS(贴源层)层、DW 层(数据仓储层)、DM 层(数据集市层)三层架构,依据企业实际情况会有所调整,而数仓模型大多采用维度建模和范式建模。
数据分层:
每一个数据层都有它的作用域,在使用表的时候能更方便地定位和理解,因此需要针对数据进行分层建设,且数据分层也利于数据血缘追踪、屏蔽原始数据的异常,通过开发一些中间层,还可以起到减少重复开发的作用。

数仓通用技术框架
数仓建模的流程:
数仓模型的设计,按照概念模型(主题域模型)——逻辑模型——物理模型的流程进行,逻辑模型和物理模型通常采用维度建模的办法,以星型和雪花型模型来组织数据,维度建模的两个基本元素是事实表和维度表。而维度建模也分为确定业务主题、定义粒度、确定维度和确认事实表四个步骤。该阶段的交付物为针对数据源的概念模型、逻辑模型和物理模型。

数仓建模一般流程

DWD层维度建模步骤
ETL过程常常需要最长的项目时长,可能会占用数仓开发的50%及以上,因为获取源数据、理解业务规则、逻辑和物理数据模型需要花费大量时间。ETL 通过从源系统数据库实时同步数据至数据仓库贴源层,基础层、通用层、应用层基于贴源层的增量数据以实时指标加工的规则进行定时(T 1 天)加工处理。

ETL过程
测试上线
测试上线的主要目的是为了测试当前数仓开发完毕后数据是否准确,数据相应的速度是否及时,包括 ETL 任务的各环节是否出现异常等,测试完毕通过业务确认后即可上线。
数据规范
数仓建设的规范是为了后续开发人员可以遵从规范,培养良好的习惯,也可以提升数仓开发的可维护性,便于用户的沟通及交流。数据规范的内容包括数仓设计规范、命名规范、ETL 规范、报表规范等,数据规范建设为后续的数据治理及数据资产的管理建立了良好的基础。

数仓规范文档


研究证明了量子理论的两个基本原理的兼容性
表示实验中所有测量值之间的相容关系。每个测量值由一个顶点表示,由边连接的顶点表示兼容的测量值。Alice(白色顶点)的两个测量值都与Bob(黑色顶点)的所有测量值兼容;鲍勃测量的兼容性由五边形表示。二乘二兼容的测量集是联合兼容的(例如,{A0,B0,B1}。学分:物理评论快报(2023年)。DOI:10.1103/PhysRevLett.130.040201我要新鲜事2023-05-08 02:26:000001风力发电就能保护环境?风电机在杀害鸟类,堪称顶级“食肉动物”
风力发电,作为一种清洁、可再生的能源形式,近年来在全球范围内迅速崛起。它被誉为当代环保领域的绿色明星,为解决能源危机和减少碳排放提供了一条可行路径。当无垠大地上的风轻轻吹过,无声无息地转动着高耸入云的巨型风力发电机,将自然的力量转化为电能,为人类的生活点亮明灯。这种神奇而壮观的场景不仅让人心生敬畏,更激发了人们对风力发电的浓厚兴趣。我要新鲜事2023-12-26 19:43:27000099977是什么意思 99977具体含义是什么
99977是抖音上面流行的一个梗,在视频当中这个梗经常会出现,可能有人不懂这句话的具体意思,小编在网上搜寻了下发现了具体含义,大家一起了解看看。99977是什么意思我要新鲜事2023-05-13 08:12:200000继“熊猫血”后又出现“恐龙血” 人到底有多少种血型呢
人类的血液类型是指红细胞表面的抗原和血浆中的抗体的种类和组合。目前已经确认的血型系统超过30种,其中最为常见的是ABO血型系统和Rh血型系统。ABO血型系统由不同的糖蛋白质抗原组成,包括A型、B型、AB型和O型。Rh血型系统则由Rh蛋白质抗原组成,包括Rh阳性和Rh阴性两种类型。这些血型在不同人群中的分布存在差异,但整体而言,ABO和Rh血型在人类种群中的分布相对均匀。我要新鲜事2023-08-26 17:42:380000一个人可以多久不睡觉?有人坚持了十一天(人体极限)
人类需要用睡眠维持生命睡眠对地球上的所有生物都很重要,甚至海洋中的鱼也通过左右脑交替来获得睡眠。一个人如果没有好好休息,就会出现精神萎靡、记忆力下降、易怒、注意力不集中等一系列问题,但在现实生活中,由于工作和学习的压力,失眠正在成为人类社会的普遍情况。那么,在平均状态下,一个人不睡觉能坚持多久呢?起初,实验者只是两个动物,两个可怜的动物我要新鲜事2023-05-14 22:27:270000