自动化测试之流量回放技术

article/2025/10/24 2:43:56

在这里插入图片描述

流量回放近几年一直是大家热衷讨论的话题,具体的效果智者见智。文章作者也是在技术工程领域有丰富的实践经验,推荐一看。

本篇背景是另外一同事朋友,最近在利用流量回放技术应用在服务端接口自动化测试方面,还在各部门全力推进阶段,未来效果暂且不好说,但这部分内容确实各大公司,测试技术大会等等的热词,由于我没参与但我很感兴趣,所以邀请普及一篇,后边应该还会带来实战篇,本公众号坚持原创和干货分享,欢迎长期关注,一同成长,如果你有好的实战分享也欢迎投稿。

前言

在日常的测试工作中我们或多或少总会遇到下列问题:

1)服务架构升级或重构,需要验证原始接口逻辑,对原有的一堆接口做回归

2)对于业务逻辑复杂的场景,每个迭代版本都需要大量的时间用于回归测试

3)编写自动化用例时复杂场景造数麻烦,日常自动化维护成本高

4)构造压测模拟数据麻烦

…等等

那么从服务的所有环境来看,仅线上环境拥有场景丰富、数据真实、覆盖全面的条件,那么我们将线上环境的请求数据获取下来,在指定的环境中模拟用户请求基本上可解决或者优化上面的这些问题。因此有必要需要对流量回放这项技术探究一下,首先从资料总结和自身搭建讲演来讲,总结流量回放的大概流程可为:流量录制 - 数据持久化 - 回放计划 - 环境维护 - 流量回放 - 结果比对。其次,所谓工欲善其事,必先利其器,下面我们看一些常用的流量回放分类以及工具的优缺点。

工具分类

根据流量录制的位置大致可分为:基于web服务器录制、基于应用层录制、基于网络协议栈录制。

web服务器录制

方案:在服务上定制化代码

优点:请求类型比较多样

缺点:不通用,维护成本高,会占用大量线上资源

应用层录制

方案:在网关或基于AOP切面进行录制

优点:对代码无侵入、实现相对比较快捷简单

缺点:会占用线上部分资源、可能会对业务有影响

常用工具:Nginx插件-ngx_http_mirror_moudle、Java-sandbox

网络协议栈录制

方案:直接监听网络端口,复制数据包方式录制

优点:基本对应用无影响

缺点:比较偏向底层实现成本较高

常用工具:goReplay、tcpCopy、tcpReplay

常用工具介绍

ngx_http_mirror_module
在这里插入图片描述
流量请求到nginx后,nginx正常转发请求到目标应用,同时复制流量到mirror服务后不再管控。

优点:

  • 原生模块支持,在nginx 1.13.4版本后内置该模块

  • 支持配置多份镜像放大流量

  • 配置比较简单,nginx-server将流量复制到mirror后无交集,达到对真实流量无影响目的

缺点:

  • 修改配置后需要执行“nginx -s reload”命令使变更生效,线上环境不建议这么做

  • 实际业务中经由nginx转发的模块较多,无法筛选指定请求

  • 只支持录制http流量

  • mirror为子请求,当mirror未结束时,主请求的内存无法释放,可导致nginx性能下降甚至阻塞

TcpCopy

项目地址:https://github.com/session-replay-tools/tcpcopy

在这里插入图片描述
流转示意图:
在这里插入图片描述
TcpCopy主要有tcpcopy和intercept两个模块组成,tcpcopy模块运行在线上机器,主要负责捕获在线请求并修改请求头中的目标地址和 源地址,然后使用raw socket输出技术发送数据包到目标服务器。目标服务器上根据配置的信息将响应数据包路由到intercept辅助服务器。intercept辅助将提取的响应头信息发送给tcpcopy。tcpcopy利用收到的信息修改捕获的数据包属性并发送至目标服务器。

优点:

  • 使用线上的真实数据

  • 适合高并发场景

  • 对目标服务器基本无干扰

  • 支持复制基于TCP任意层协议的流量

缺点:

  • 由于只做数据包复制未做流量异常鉴别,可能导致异常数据进入目标服务器

  • 无法对应用层的数据进行筛选和修改

  • 可能会丢失数据包导致请求丢失

GoReplay

项目地址:https://github.com/buger/goreplay
在这里插入图片描述
GoReplay是基于Go语言实现与Tcpdump一样都是依赖pcap库,主要监听网络接口流量来录制流量,支持在线和离线方式回放流量

优点:

  • 轻量程序基本无需配置,环境准备简单

  • 程序资源消耗少,无侵入应用运行环境

  • 提供不限制语言的插件机制,方便拓展

缺点:

  • 社区版仅支持录制http协议,且与核心逻辑耦合,应用面不广泛

  • 大公司使用少,整体成熟度不高

Jvm-sandbox-repeater

项目地址:https://github.com/alibaba/jvm-sandbox-repeater
在这里插入图片描述
使用jvm-sandbox沙箱技术,通过Java agent或者attach方式挂载到Java应用上。repeater模块根据配置的规则录制或回放数据,console模块主要负责触发和数据交互。

优点:

  • 通过字节码增强的方式可以直接录制Java方法、子调用

  • 对业务代码0侵入

  • 模块功能丰富

缺点:

  • 对服务运行环境有一定侵入

  • 在挂载瞬间会占用较多的机器资源,当业务量大时可能会导致服务夯住

  • 当前功能不完善,需要代码开发能力

总结

通过技术方案可以方便我们利用线上真实流量验证压测、自动化、回归等场景,根据自己实际的需求选择合适的工具,但一切以不影响线上服务的稳定可用为前提。也期待后续会有更多的更完善的流量回放方案。

下面是配套资料,对于做【软件测试】的朋友来说应该是最全面最完整的备战仓库,这个仓库也陪伴我走过了最艰难的路程,希望也能帮助到你!
在这里插入图片描述

最后: 可以在公众号:伤心的辣条 ! 免费领取一份216页软件测试工程师面试宝典文档资料。以及相对应的视频学习教程免费分享!,其中包括了有基础知识、Linux必备、Shell、互联网程序原理、Mysql数据库、抓包工具专题、接口测试工具、测试进阶-Python编程、Web自动化测试、APP自动化测试、接口自动化测试、测试高级持续集成、测试架构开发测试框架、性能测试、安全测试等。

学习不要孤军奋战,最好是能抱团取暖,相互成就一起成长,群众效应的效果是非常强大的,大家一起学习,一起打卡,会更有学习动力,也更能坚持下去。你可以加入我们的测试技术交流扣扣群:914172719(里面有各种软件测试资源和技术讨论)

喜欢软件测试的小伙伴们,如果我的博客对你有帮助、如果你喜欢我的博客内容,请 “点赞” “评论” “收藏” 一键三连哦!


好文推荐

转行面试,跳槽面试,软件测试人员都必须知道的这几种面试技巧!

面试经:一线城市搬砖!又面软件测试岗,5000就知足了…

面试官:工作三年,还来面初级测试?恐怕你的软件测试工程师的头衔要加双引号…

什么样的人适合从事软件测试工作?

那个准点下班的人,比我先升职了…

测试岗反复跳槽,跳着跳着就跳没了…


http://chatgpt.dhexx.cn/article/sPiQsnfa.shtml

相关文章

数据流测试

一、基本概念 定义节点 -- DEF(v,n) 使用节点 -- USE(v,n) 谓词使用 -- P-use 计算使用 -- C-use 定义-使用路径 -- du-path 定义-清除路径 -- dc-path 全定义覆盖准则:测试路径需要覆盖所有定义点和任意一个使用点,用dc-path扩展…

app性能测试--流量

测试场景:在手机上面点击想要测试的界面或者一组场景,然后查看用了多少流量。 方法一:使用流量测试的工具:1.tcpdump抓包 2 wireshark进行分析 tcpdump介绍:tcpdump是一款用于截取网络分组,并输出分组内容的…

APP性能测试——流量测试(二)

续上文:APP性能测试--流量测试(一),上篇文章介绍了如何通过代理工具抓网络请求,通过代理抓包我们可以抓到http和https请求的详细信息,由于代理我们需要连接wifi,很难抓取到4G网络下的流量值;今天介绍一下如…

App性能测试之流量监控

下面对流量监控进行分析: 获取进程ID指令adb shell “ps | grep 包名” 获取进程ID流量adb shell cat /proc/pid/net/dev pid换成第一步获取到的进程ID receive是指当前进程接收的数据,transmit是指当前进程发出请求的数据,流量是这两者之和…

性能测试——流量测试

原文资料: http://testerhome.com/topics/2643 http://testerhome.com/topics/2068 ------------------- 流量篇 最近在研究IOS 的性能测试,时间太紧没来得及发帖,加通宵挤出时间给大家分享一点东西,希望对大家有所帮助&#xff0…

App 流量常见测试方法

方法一:Android系统自带统计功能(总体流量数值) Proc/uid_stat/{UID}/tcp_snd和tcp_rcv UID是每个app安装时候分配的唯一编号用于识别该app. tcp_snd:表示发送数据累计大小,单位是字节 tcp_rcv:表示接收…

APP专项测试:流量测试

手机的电量与流量测试主要为了站在用户角度思考,毕竟电量、流量消耗毕竟大,会影响客户的使用感受。手机端电量使用率是和CPU使用率成正比的。 由于这个表现没有毕竟详细的规定,只能给出一个通用的范围,CPU使用率不能超过10%以上&…

APP性能测试——流量测试(一)

写在前面: 第一期主要介绍如何通过anyproxy工具进行流量测试,二期介绍如何通过adb 命令实时监控wifi、4G下的上行以及下行流量值。 app的流量测试是性能测试中重要的指标,也是用户体验的重要部分,目前了解到的有三种方法&#xff…

软件测试简历包装我们会了,但测试人的自我“包装”呢?HR自我介绍包装小技巧【建议收藏】

小编热衷于收集整理资源,记录踩坑到爬坑的过程。希望能把自己所学,实际工作中使用的技术、学习方法、心得及踩过的一些坑,记录下来。也希望想做软件测试的你一样,通过我的分享可以少走一些弯路,可以形成一套自己的方法…

软件测试人员应该如何介绍自己测试过的项目

测试人员在找工作的过程中,通常有一个问题是很难绕开的。就是要如何向别人介绍自己之前做过的项目。下面我们就这个问题简单的做一些分析。 要解决这个问题,大体上可以分为如下几个步骤: 1、对项目进行基本介绍 2、说明自己负责测试的模块 …

安装Node出现2502问题

安装nodejs时出现2502/2503错误解决方法 解决方法: 1.以管理员身份运行cmd 2.在cmd中打开msi文件的目录 切换d盘符为: d: 返回上一文件夹:cd … 打开文件夹:cd 文件夹名称 3.执行命令 msiexec /package msi文件名 4.弹出nod…

安装应用程序遇到2503、2502解决办法

原因:主要是权限不够。 方法一:右键,管理员身份运行。 方法二:管理员命令提示符,输入“msiexec /package E:download\SmarTTY.msi”

window系统下**Node环境安装失败: 错误代码: 2502 、2503

Window系统**Node环境安装失败: 错误代码: 2502 、2503 失败原因: 系统账户权限不足 如下图所示: 解决办法: 以管理员身份运行powershell命令行工具输入运行安装包命令msiexec /package node 安装包位置 例如:  复制的文件路径不用Ctrlv, 在命令行工具点击右键…

MT2502开发环境搭建

MT2502 patch merge、编译环境搭建、编译及版本flash ( 文档中所有安装包都可以从这里获取到:链接: http://pan.baidu.com/s/1qW8warM 需要的私聊 编译环境搭建 运行环境:windows xp、windows7(环境需要做一些更改) windows…

如何修复 Windows 中的 2502 或 2503 错误

1、问题描述 在安装 node-v12.16.1-x64 -win64.msi 软件时报2502/2503错误,导致安装失败。 2、分析解决 2502/2503 错误通常会在 Windows 上安装或卸载程序时出现。 2502/2503 错误的根源来自 Windows 上的 MSI 安装服务。无论何时卸载或安装程序,都必…

window 10 安装node.js时遇到2502 2503错误(已解决)

node安装失败2503的解决办法:1、在WIN搜索框搜索powershell并右击;2、点击使用管理员身份运行powershell命令行工具;3、输入“msiexec /package node”;4、打开安装包,根据提示安装即可。 本文操作环境:Win…

Windows安装Go/Python报2503/2502问题解决

关注【潇湘信安】、【Hack分享吧】公众号,一起学网络安全知识! 0x01 问题描述 我们在Windows安装Golang和Python等环境时出现下图报错:the install has encountered an unexpected errer installing this package.this may indicate aproble…

node安装或卸载报错2502,2503问题解决

node安装或者卸载报错2502,2503 一、需求 大概需求是node版本过低需要升级版本,操作是将高版本node覆盖掉原版本node。 二、报错原因 出现原因可能是因为电脑系统权限没有给到node安装包,究其根本还是系统权限问题。 三、解决 方法一 1.winr 后输…

安装或卸载时错误 2502 和 2503修复

Windows11安装Python的时候出现的错误,导致安装失败。 解决办法: 管理员运行cmd 将安装的Python程序包,右键发送到桌面 右键桌面快捷方式,属性 拷贝文件路径 在cmd中右键,复制 回车运行,完美安装

MT2502 Wearable长按PWRKEY关机和复位问题

MT2502智能穿戴芯片模块解决方案资料分享:[FAQ14052][MT2502 PWRKEY]长按PWRKEY关机和复位问题 该功能是新增的,主要是为了让Wearable无法拔电池的产品,在系统死机,SW不起作用后,有个强制关机或重启的方法&#xff0c…