什么是数据质量
广义上来说，数据质量的定义是数据满足一组固有特性（质量维度）要求的程度。业界通常有 6 个维度：
-
完整性：指数据的记录和信息是否完整，是否存在缺失的情况。数据缺失主要包括记录的缺失和记录中某个字段信息的缺失，两者都会造成统计结果不准确，所以说完整性是数据质量最基础的保障。在做监控时，需要考虑两个方面：数据条数是否少了；某些字段的取值是否缺失。完整性的监控，多出现在日志级别的监控上，一般会在数据接入的时候来做数据完整性校验。
-
准确性：指数据中记录的信息和数据是否准确，是否存在异常或者错误。一般准确性的监控多集中在对业务结果数据的监控，比如每日的活跃、收入等数据是否正常。
-
一致性：指同一指标在不同地方的结果是否一致。数据不一致的情况，多出现在数据系统达到一定的复杂度后，同一指标会在多处进行计算，由于计算口径或者开发人员的不同，容易造成同一指标出现不同的结果。
-
及时性：在确保数据的完整性、准确性和一致性后，接下来就要保障数据能够及时产出，这样才能体现数据的价值。及时性很容易理解，主要就是数据计算出来的速度是否够快，这点在数据质量监控中可以体现在监控结果数据是否在指定时间点前计算完成。
-
规范性：指数据是否按照要求的规则进行存储，如邮箱校验、IP 地址校验、电话格式校验等，具有一定的语义意义。
-
唯一性：指数据是否有重复，如字段的唯一值、字段的重复值等。
我们对数据质量有一些流程和规范，并针对上述一些维度开发了一套数据质量平台集合在 Dataleap 中，主要关注数据质量及其生产链路。
上图展示了在数据开发的流程中，Dataleap 数据质量平台可以提供哪些功能：
-
数据探查：可以根据各种维度来查看数据明细和分布情况。
-
数据对比：开发同学可能经常会发现线上表和测试表不一致，所以我们在任务上线的环节提供了数据对比的功能。
-
任务监控：监控线上数据，提供报警和熔断功能。
数据质量平台最有代表性的功能是：对数据开发平台产出的 Hive 表数据进行主键重复检测，如果存在重复则进行报警。数据质量监控最有用的场景是防止数据问题蔓延到下游。举个例子：数据任务产出一张 Hive 表，该表可能会同步一些信息到 Hive metastore（HMS）。HMS 的主从架构可能存在一定的延迟，假设 HMS 出现问题，下游任务可能会读到脏数据，这时如果我们使用数据质量监控，就能及时发现问题，阻止下游任务运行。
数据质量挑战
目前我们的数据质量挑战有哪些？可以通过几个用户 case 了解一下。
User Story 1
某流量级产品商业化系统，M 级日志条数/秒；希望秒级监控日志延迟、关键字段空值，T+1 检测日志波动率。
User Story 2
某内部业务系统，日志存储 ES；希望每 5 分钟检测上一周期日志波动情况。
User Story 3
某内部指标平台，业务数据由 Hive 定期同步到 ClickHouse；希望每次同步任务后检查 Hive 与 ClickHouse 中的指标是否一致。
通过上面的介绍，大家应该也大致清楚了当前数据质量需要解决的问题。可能有些同学会说，数据质量平台我也做过，问题归总起来也不复杂，总而言之就是对数据进行各种计算，对比计算来的阈值即可，一般直接依赖于 Spark 引擎或者 Hive 引擎计算即可。确实，其实这也是我们 Dataleap 数据质量最开始的样子。那为什么会演化到目前这样，我们面临了一些什么问题？
首先是场景需求非常复杂：
-
离线监控不再多说了，大家都熟悉，主要是不同存储的数据质量监控，比如 Hive 或者 ClickHouse 。
-
字节跳动内部的广告系统对时效性和准确性要求很高，用广告同学的话说，如果用微批系统 10 min 才做一次检测，可能线上损失就上百万了甚至千万了。所以广告系统同学对实时性要求相对较高。
-
另外一个是复杂拓扑情况下的流式延迟监控。
-
最后是微批，指一段时间内的定时调度，有些 Kafka 导入 ES 的流式场景，需要每隔几分钟对比下前一周期。
此外，字节跳动各种产品会产出海量的日志数据，我们需要用有限的资源来满足大家对质量监控的需求。面临这些挑战，我们的解决方案是什么？请继续关注下篇文章。
立即跳转s了解详情
本文链接：https://my.lmcjl.com/post/1112.html
4 评论