大家好,我被允许。数据治理专家,专注数据治理20年,是一名数据治理实践者。分享数据治理解决方案和数据治理的实践经验,以后我们会多交流。

今天是第12篇。先说为什么数据治理看起来很简单,其实很难。
2021年11月1日,《个人信息保护法》正式生效,这意味着我们生活中常见的行为,如人脸识别技术、大数据查杀等,开始受到专门法律的规制。
与此同时,与个人数据相关的管理和治理也开始出现在企业管理的议题中。而数据治理的相关动作,已经开始在金融行业以罚款的方式刺激企业管理者的决心。
毕马威2021年的一份报告显示,中国银保监会和中国人民银行针对各家银行保险数据提交的罚款总额已达10.5亿,最高单笔罚款达到1.145亿。
这些罚单中的处罚大多是关于数据质量、数据合规性和未按规定提交,其中数据质量问题首当其冲。
那么问题来了。监管部门要求提交的数据内容有什么难度?我们在提交过程中经常提到的数据治理是什么?
这是一个报表,在企业中很常见,也是我们经常听说的BI报表。
该报告可能包含一系列销售汇总数据。如年度、季度、月度、同比增长等。
在这个报告的背后通常是一个或多个数据库中的数据表,它管理这些历史数据。通常,这些数据以表格的形式存储在相应的系统中。除了数据存储,我们还经常对这个环节的数据进行清理、丰富、控制和匹配。
而存储的数据从何而来?那就是我们普通人的手需要被剁掉的地方。各种电商平台:淘宝、天猫、JD.COM、拼多多、Tik Tok、Aauto更快等等。

我们在这些平台上产生的交易数据可能来自前端的关联交易处理数据库。或者上游部门的其他系统,或者与第三方的数据交换。
这三个步骤也简单代表了我们企业中数据处理和报告的三个典型层,即数据源层、分析存储层和数据消费层。
在这三层中,为了应对需要满足的功能,布局了各种应用。例如与数据源层中不同数据源的数据交换。
或者分析存储层中与数据建模、数据质量修正和数据清洗相关的数据准备应用。最后,在数据消费层,除了日常的业务运营报表,还有数据创新、数据科学等高层分析。
一条数据由这些不同链接中的各种应用程序进行处理,最终它会对报告或计算模型产生一定的影响。
但是,这只是销售部门的数据链。在企业中,我们有其他部门,如财务、产品、营销、客户等等。会有类似的数据流。
此外,技术的重叠会使企业的数据布局进一步复杂化。
比如仅数据存储和分析的相关技术,从早期的大型机到后来的关系数据库和数据仓库,以及前几年的大数据到现在的云。
这些不同时期的技术都有可能出现在我们目前的企业数据资产布局中。
所以在这样一个多部门、多系统、多技术的场景下,要找到需要的数据是极其困难的。
同时,在数据的生命周期中,数据是从源产生的。
但是,在原来的系统中,数据只支持业务系统的一些状态和记录的操作。随着数据集成、质量控制和数据发现的过程,形成信息,然后信息与业务上下文相关联,形成知识。只有促进数据更方便地成为知识,被使用,数据才能产生更大的价值。
比如经典的数据分析,啤酒尿不湿组合刺激消费的都市传说。或者能够满足监管机构对业务实体提交的要求,从而避免罚款。
但在数据流动的过程中,由于设计环节和系统的多样性和复杂性,以及处理过程中数据规模的急剧膨胀,任何一个环节引入的误差和错误都有可能在后端被放大。
当然,在这幅图中,一切似乎仍然清晰有序,但实际上,这就是我们在企业数据资产中看到的情况。
对于数据消费者来说,无论是错误排查还是数据发现,面对情况时,我们只能看到一些分散在各个系统中的数据资产和相似的数据,却不知道它们之间的关系,也不知道是否有更合适的资产。
如何避免这种玩瞎子摸大象的经历,让企业在合适的时机做出综合决策,是企业数据治理的核心。

作者介绍:
牌照,广电科技CEO,数据管理专家。专注数据治理20年,数据治理是实学。分享数据治理解决方案和数据治理实践经验。
微信官方账号:发牌数字说。
官网:广电科技


