跳至主要內容

大数据测试基础

薇念约 606 字

大数据测试基础

简介

定义

大数据测试通常是指对采用大数据技术的系统或应用的测试。大数据测试可以分为两个维度,一个维度是数据测试,另一个维度是大数据系统测试和大数据应用产品测试。

测试内容

功能测试主要覆盖数据质量、数据维度、数据处理和数据展示等多个方面。功能测试常用的测试方法:数据的完整性、一致性、准确性、及时性测试、数据约束检查、数据存储检查、sql文件检查、数据处理逻辑验证、shell脚本测试和调度任务测试等。

在数据质量方面,主要包括4种测试方法: 数据的完整性、一致性、准确性、及时性测试。

大数据特点

大量,高速,多样,低价值密度

大数据测试关键技术以及相关测试内容

数据采集与预处理阶段

功能测试:主要关注数据来源,测试数据的有效性,保证没有或者尽量减少无效数据。

容错性测试:每一个系统都要留一定的犯错处理回复机制,绝对不能一有错就直接终止了系统的运行。

性能测试:数据上传是否及时,并发,大量数据长传是否能够应对

稳定性测试:数据来源是否能够稳定,对大数据系统的运行很重要

数据存储和管理

数据一致性测试:上传的数据再数据库,数据源中的存储是不是和上传时一致。

安全性测试:存储在数据库中的数据是否有加密,是否有操作权限的控制。

稳定性测试:数据库系统和服务器是否能够按照规定稳定运行

数据处理与分析

性能测试:处理速度是否足够;资源消耗是否正常

可用性测试:数据的查询和分析结果是否有用;如果分析结果不够精准,还需要优化。

功能性测试:基本同可用性测试,毕竟大数据技术最大的用途就是提供决策的

数据安全与隐私保护

相关工具

Hadoop

python