京东-张爱芸-京东数据测试平台质效建设实践.pdf

1、京东数据测试平台质效建设实践张爱芸 京东 效能平台资深技术产品经理张爱芸“京东效能运营研发部 资深技术产品经理2015年加入京东，先后主导过集团大数据平台建设、集团统一AB实验平台、集团统一DevOps平台产品建设，有较丰富的从0-1产品搭建经验。目前主要深耕DevOps测试域效能工具平台（数据测试平台、测试物料平台等），专注于解决测试痛点，提升测试效率”讲师简介目录12345京东数据测试的演进从零到一的数测平台建设之路实践成果展示探索方向与未来展望案例复盘与总结目录1京东数据测试的演进之路为什么做数据测试是什么？测试定义数据测试VS大数据测试数据测试VS数据质量测试范围数据表BI报表数据接口

2、服务数据看板测试内容数据测试易用性测试功能测试性能测试安全性测试高可用测试容错性测试数据测试是对数据质量、完整性、一致性和准确性等方面进行验证和评估的过程。数据测试与传统测试的区别人员要求硬技能有较多较完善的自动化平台软件测试技术，如Selenium等工具和技术技术+工具测试重点对象+流程业务测试数据测试需要掌握软件测试理论业务领域知识自动化平台少，多为手动执行SQL测试熟悉编程语言和数据库技术，如python、java、SQL，了解Hadoop等基本的软件测试理论和实践对业务领域知识的了解大数据、算法、数据库等知识关注数据的质量（完整性、一致性）、及时性等没有标准的测试流程规范软件的业务功能

3、和性能有成熟的敏捷和DevOps实践保障人少任务重工作难京东数据测试的演进展示前端权限控制展示后端数据服务数据存储数据计算生产数据零售健康物流金融数据抽取其他DruidESCKHBaseJIMDB实时计算任务离线计算任务实时接入离线抽取指标计算数据读取限速限流登录鉴权复合指标熔断限流请求转发统一服务数据产品服务层数据处理层源数据展示层业务A数据流组织架构商城医疗数据中台业务研发业务研发数据研发数据测试数据中台数据研发数据测试数据研发业务C数据研发数据BP数据研发数据测试其他业务研发数据业务数据研发业务D数据研发质效水平业务整合工具建设质效水平业务发展存在哪些问题？人少活多，质量问题频发，很难得

4、到全面的保障现状人的问题方法的问题流程的问题人力资源不足经验不足专业知识储备不够缺少资料学习业务理解深度不够多靠手动SQL查询，效率低个性化的脚本自动化很难赋能所有业务测试资产无法沉淀，无法传承研发很难自助自测，测试压力大流程不规范、不统一各业务测试流程不统一研发与测试合作的流程不规范破题思路工欲善其事，必先利其器 目录2从零到一的数测平台建设做了什么，解决了什么问题平台建设思路目标：所有测试过程可视化，测试资产线上化举措：流程线上化测试计划能力线上化用例管理线上化自动化标准化服务化（未开始）全面覆盖数据测试场景，达成自动测、人人测、持续测、尽早测的目标目标：提升测试效率举措：测试能力自动化（

5、自动生成用例、自动比对结果等、自动数据探查等）目标：前人栽树，后人乘凉，建立京东标准的数据测试规范流程举措：沉淀最佳实践，打造最佳测试流程目标：赋能更多平台和业务，全面开花举措：将平台能力以服务化方式，接入DataOps或更多平台线上化是平台助力业务提效的第一步能力线上化数据源线上化JimDB统一管理数据源统一数据查询线上化是平台助力业务提效的第一步能力线上化多执行方式多比对模式可自动生成多版本记录语法校验测试用例既支持单查询模式，又支持比对模式可以自动生成SQL既支持SQL，又支持脚本不同计划可以执行用例的不同版本SQL不支持写操作，保障数据安全线上化是平台助力业务提效的第一步流程线上化基础

6、测试全面测试核心测试自动化是帮助业务提效的重要手段面向测试问题1、很多的基础用例其实是通用的，重复的（零值、空值、明细比对等）2、人工比数费“眼”，跨库比对费“劲”3、脚本各自维护，无法赋能效率低自动生成自动比对自动执行脚本用例自动生成单表自动比对多表自动比对支持在线编辑脚本支持脚本用例执行场景：新模型上线单表探查：表规模 字段质量场景：模型变更数据对比：明细对比 数据规模对比 表结构对比数据探查数据比对自动化是帮助业务提效的重要手段面向研发的数据探查需求调研模型设计数据开发模型上线模型运维需求变更数据开发流程简示图数据查询/分析数据探查数据比对场景：配置化数据看板自测/测试服务探查：自动探查