Netty权威指南(四)TCP粘包/拆包问题

article/2025/9/14 14:26:03

TCP粘包/拆包问题解决之道

  • 上一章
  • 一、介绍
    • 1.1 TCP粘包/拆包问题说明
    • 1.2 TCP粘包/拆包发生的原因
    • 1.3 粘包问题的解决策略
  • 二、未考虑TCP粘包导致的功能异常案例
    • 2.1 TimeServerHandler的改造
    • 2.2 TimeClientHandler的改造
    • 2.3 运行
  • 三、利用LineBasedFrameDecoder解决TCP粘包问题
    • 3.1 支持TCP粘包的TimeServer
    • 3.2 支持TCP粘包的TimeClient
    • 3.3 运行
    • 3.4 LineBasedFrameDecoder和StringDecoder的原理分析
  • 下一章

上一章

上一章介绍了Netty的入门应用:
Netty权威指南(三)Netty入门应用

一、介绍

熟悉TCP编程的读者可能都知道,无论是服务端还是客户端,当我们读取或者发送消息的时候,都需要考虑TCP底层的粘包/拆包机制。

TCP是个的协议,所谓就是没有界限的一串数据,大家可以想想河里的水,他们是连成一片的,其间并没有分界线。TCP底层并不了解上层业务数据的具体含义,它会根据TCP缓冲区的实际情况进行包的划分。所以在业务上认为,一个完整的包可能会被TCP拆分成多个包进行发送,也可能会把多个小的包封装成一个大的数据包发送,这就是所谓的TCP粘包/拆包问题。

1.1 TCP粘包/拆包问题说明

假设客户端分别发送了两个数据包D1D2给服务端,由于服务端一次读取到的字节数不是确定的,故可能存在四种情况:

  1. 服务端分两次读取到两个独立的包,分别是D1D2,没有粘包和拆包。
  2. 服务端一次接受到两个数据包,D1D1粘合在一起,被称为TCP粘包。
  3. 服务端分两次接收到了两个数据包,第一次读取到了完成的D1包和D2包的部分内容,第二次读取到了D2包的剩余内容,这被称为TCP的拆包。
  4. 服务端分两次接受到了两个数据包,第一次读取到了D1包的部分内容D1-1,第二次读取到了D1包的剩余内容D1-2D2包的整包。

如果此时服务端TCP接收滑窗非常小,而数据包D1D2比较大,很有可能会发生第五中可能 ,即服务端分多次才能将D1D2包完全接收,期间发生多次拆包。

1.2 TCP粘包/拆包发生的原因

  1. 应用程序write写入的字节大小大于套接字发送缓冲区大小。
  2. 进行MSS大小的TCP分段。
  3. 以太网帧的payload大于MTU进行IP分段。

1.3 粘包问题的解决策略

由于底层的TCP无法理解业务上层的业务数据,所以在地城无法保证数据包不被拆分和重组。这个问题只能通过上层的应用协议栈设计来解决,根据业界的主流协议的解决方案,可以归纳如下:

  1. 消息定长,例如每个报文的大小为固定长度200字节,如果不够,空位补空格。
  2. 在包尾增加回车换行符进行分割,例如FTP协议。
  3. 将消息分为消息头和消息体,消息头中包含表示消息总长度(或者消息体长度)的字段,通常设计思路为消息头的第一个字段使用int32来表示消息的总长度。
  4. 更复杂的应用层协议。

下面我们就通过实际案例来看看如何使用Netty提供的半包解码器来解决TCP粘包/拆包问题。

二、未考虑TCP粘包导致的功能异常案例

2.1 TimeServerHandler的改造

package com.lsh.netty;import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerAdapter;
import io.netty.channel.ChannelHandlerContext;import java.io.UnsupportedEncodingException;
import java.util.Date;/*** @author :LiuShihao* @date :Created in 2021/3/8 12:39 下午* @desc :未考虑TCP粘包导致的功能异常案例*/
public class TimeServerHandler extends ChannelHandlerAdapter {private int counter;@Overridepublic void channelRead(ChannelHandlerContext ctx, Object msg) throws UnsupportedEncodingException {ByteBuf buf = (ByteBuf) msg;byte[] req = new byte[buf.readableBytes()];buf.readBytes(req);//	处理客户端发送的消息,不截取 分隔符separatorString body = new String( req,"UTF-8").substring(0,req.length- System.getProperty("line.separator").length());System.out.println("The time server receive order :"+body +" ; the counter is " + ++counter);String currentTime = "QUERY TIME ORDER".equalsIgnoreCase(body) ? new Date(System.currentTimeMillis()).toString() : "BAD ORDER";// 返回给客户端响应,带上分隔符currentTime =currentTime + System.getProperty("line.separator");ByteBuf resp = Unpooled.copiedBuffer(currentTime.getBytes());ctx.writeAndFlush(resp);}@Overridepublic void channelReadComplete(ChannelHandlerContext ctx) throws  Exception{ctx.flush();}@Overridepublic void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {ctx.close();}}

每读到一条消息后,就计一次数,然后发送应答消息给客户端。按照设计服务端接收到的消息总数应该与跟客户端发送的消息总数相同。而且请求消息删除回车换行符后应该为“QUERY TIME ORDER”

2.2 TimeClientHandler的改造

package com.lsh.netty;import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerAdapter;
import io.netty.channel.ChannelHandlerContext;/*** @author :LiuShihao* @date :Created in 2021/3/17 12:13 下午* @desc :*/
public class TimeClientHandler extends ChannelHandlerAdapter {private int counter;private byte[] req;public TimeClientHandler() {//构造方法 初始化 req字节数组 请求消息为 QUERY TIME ORDER 加上分隔符req = ("QUERY TIME ORDER" + System.getProperty("line.separator")).getBytes();}@Overridepublic void channelActive(ChannelHandlerContext ctx){ByteBuf message = null;//向服务端发送一百次请求for (int i = 0; i < 100 ; i++) {message = Unpooled.buffer(req.length);message.writeBytes(req);ctx.writeAndFlush(message);}}/***读取服务端的响应 */@Overridepublic void channelRead(ChannelHandlerContext ctx,Object msg) throws Exception{ByteBuf buf = (ByteBuf) msg;//根据ByteBuf的长度创建响应长度的字节数组byte[] req = new byte[buf.readableBytes()];//将ByteBuf中的消息读到字节数组中buf.readBytes(req);//根据字节数组构造字符串String body = new String(req, "UTF-8");System.out.println("Now is :"+body +" ; the counter is "+ ++counter);}@Overridepublic void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {System.out.println("Unexpected exception from downstrean : "+ cause.getMessage());ctx.close();}}

2.3 运行

服务端控制台:
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
服务端运行结果表明它只接收到了两条消息。

客户端控制台:
在这里插入图片描述

按照设计初衷,客户端应该受到100条当前系统时间的消息,但实际上只收到了一条,因为服务端只收到了两条请求消息,所以实际服务端只发送了2条应答,由于消息不满足查询条件,所以返回了BAD ORDER,但实际上客户端也只收到了一条包含2条BAD ORDER指令的消息,说明服务端返回的应答消息也发生了粘包。

三、利用LineBasedFrameDecoder解决TCP粘包问题

为了解决TCP粘包/拆包问题导致的半包读写问题,Netty默认提供了多种编码器应用于处理半包,只要能熟练掌握这些类库的使用,TCP粘包问题从此会变得非常的容易,你甚至不需要关心他们,这也是其他NIO框架和原生的NIO API所无法匹敌的。

3.1 支持TCP粘包的TimeServer

在这里插入图片描述
在这里插入图片描述

在原理的TimeServerHandler之前新增了两个解码器:LineBasedFrameDecoderStringDecoder

3.2 支持TCP粘包的TimeClient

在这里插入图片描述
在这里插入图片描述

3.3 运行

在这里插入图片描述
在这里插入图片描述
程序的结果完全符合预期,说明通过使用LineBasedFrameDecoder和StringDecoder成功解决了TCP粘包导致的读半包问题,对于使用者来说,只要将支持半包解码的Handler添加到ChannelPipeline中即可,不需要写额外的代码,用户使用起来非常简单。

3.4 LineBasedFrameDecoder和StringDecoder的原理分析

LIneBasedFrameDecoder的工作原理是它依次遍历ByteBuf中的可读字节,判断看到是否有"/n"或者"/n/r",如果有,就以次位置为结束位置,从可读索引到结束位置区间字节就组成了一行,它是以换行符为结束标志的解码器,支持携带结束符和不携带结束符两种解码方式,同时支持配置单行的最大长度。如果连续读取到最大长度仍然没有发现换行符,就会抛出异常,同时忽略到之前读到的异常码流。

StringDecoder的功能非常简单,就是将接收到的对象转换成字符串,然后继续调用后面的Handler。LineBasedFrameDecoder + StringDecoder 组合就是按行切换的文本解码器,它被设计用来支持TCP的粘包和拆包。

如果发送的消息不是以换行符结束的怎么办?或者没有回车换行符,靠消息头中的长度字段来分包怎么办?是不是需要自己写半包解码器?答案是否定的,Netty提供了多种TCP粘包/拆包的解码器,用来满足用户的不同诉求。

下一章

下一章介绍 LineBasedFrameDecoder 和 FixedLengthBasedDecoder 另外两种使用的解码器,前者可以自动完成以分隔符做结束标志的消息的解码,后者可以自动完成对定长消息的解码,他们都能解决TCP粘包/拆包导致的读半包问题。

Netty权威指南(五)分隔符和定长解码器


http://chatgpt.dhexx.cn/article/gZrXRNZh.shtml

相关文章

《Netty权威指南》

《Netty权威指南》 基本信息 作者&#xff1a; 李林锋 出版社&#xff1a;电子工业出版社 ISBN&#xff1a;9787121233432 上架时间&#xff1a;2014-5-29 出版日期&#xff1a;2014 年6月 开本&#xff1a;16开 页码&#xff1a;524 版次&#xff1a;1-1 所属分类&#xff…

Netty权威指南~第一章Java的I/O演进之路

本章内容如下&#xff1a; 5种网络I/O模型的介绍I/O多路复用的介绍 1、I/O基础入门 在Java1.4之前&#xff0c;Java对I/O的支持不完善&#xff0c;开发人员在开发高性能I/O的程序时&#xff0c;会面临以下问题&#xff1a; 没有数据缓冲区&#xff0c;I/O性能存在问题没有C…

Netty权威指南(第2版)

网站 更多书籍点击进入>> CiCi岛 下载 电子版仅供预览及学习交流使用&#xff0c;下载后请24小时内删除&#xff0c;支持正版&#xff0c;喜欢的请购买正版书籍 电子书下载(皮皮云盘-点击“普通下载”)购买正版 封页 编辑推荐 1、Hadoop、Storm、Spark、Facebook、…

Netty权威指南——WebSocket协议开发

一、简介 由于HTTP协议的开销&#xff0c;导致他们不适于用于低延迟应用&#xff0c;为了解决这些问题&#xff0c;WebSocket将网络套接字引入到了客户端和服务端&#xff0c;浏览器和服务器之间可以通过套接字建立持久的连接&#xff0c;双方随时可以互发数据给对方&#xff…

netty权威指南 微云_《Netty权威指南》(二)NIO 入门

2.1 BIO 采用 BIO 通信模型的服务器&#xff0c;通常由一个独立的 Acceptor 线程负责监听客户端的连接&#xff0c;它接收到客户端连接请求之后为每个客户端创建一个新的线程进行处理&#xff0c;处理完成后&#xff0c;通过输出流返回应答给客户端&#xff0c;线程销毁。 grap…

netty 权威指南~第11章——WebSoket协议开发

本章主要学习内容如下&#xff1a; 1、WebSocket入门 2、Netty WebSocket协议开发 第节一&#xff1a;WebSocket入门 WebSocket是HTML5开始提供的一种浏览器与服务器进行全双通信的网络技术&#xff0c;WebSocket通信协议与2011年被IEIF定位标准RFC6455&#xff0c;WebsSock…

Netty权威指南 第2版

https://www.cnblogs.com/plxz/p/9910493.html 第一章  Java的I/O演进之路 1.I/O基础入门 1.Linux网络I/O模型简介 1.阻塞I/O模型&#xff1a;最常用的I/O模型&#xff0c;缺省情况下&#xff0c; 所有文件操作都是阻塞的 2.非阻塞I/O模型&#xff1a;recvform从应用层到内…

Netty权威指南总结(一)

一、为什么选择Netty&#xff1a; API使用简单&#xff0c;开发门槛低&#xff0c;屏蔽了NIO通信的底层细节。 功能强大&#xff0c;预制了很多种编解码功能&#xff0c;支持主流协议。 定制能力强&#xff0c;可以通过ChannelHandler对通信框架进行灵活地拓展。 性能高、成熟、…

Netty权威指南

Chapter1.java I/O演进之路 1.1I/O基础入门 在java 1.4之前&#xff0c;java程序员在开发高性能I/O程序的时候&#xff0c;会面临的问题主要有&#xff1a; 1.没有数据缓冲区&#xff0c;I/O性能存在问题 2.没有c或者c中的Channel概念&#xff0c;只有输入和输出流 3.同步…

三维视觉传感器的类型

三角法测量原理 视觉传感器的坐标系统 单一摄像机二维传感器 点结构光视觉传感器 线结构光视觉传感器 条纹结构光视觉传感器 条纹编码三维视觉传感器 彩色编码视觉传感器 被动双目视觉传感器 编码照明双目视觉传感器

传感器sensor

传感器分类 转换原理 传感器名称 典型应用 转换形式 中间参量 电 参 数 电 阻 移动电位器角点 改变电阻 电位器传感器 位移 改变电阻丝或片尺寸 电阻丝应变传感器、半导体应变传感器 微应变、力、负荷 利用电阻的温度效应 热丝传感器 气流速度、液体流量 电阻…

多任务多传感器数据融合实现3D目标检测

转载自&#xff1a;自动驾驶之心 01 引言 本文介绍一篇uber公司在CVPR上发表的一篇论文&#xff0c;即使用多种传感器&#xff08;LiDAR和RGB相机&#xff09;数据&#xff0c;以及多任务进行数据融合&#xff0c;实现准确高效的3D目标检测。简而言之&#xff0c;自动驾驶领域…

压力传感器

压力传感器 压力传感器是最常用的一种传感器&#xff0c;其应用范围有各种工业互通环境&#xff0c;涉及航空&#xff0c;航天&#xff0c;军工&#xff0c;石化&#xff0c;电力等。按照不同的测试&#xff0c;压力类型可分表压传感器&#xff0c;差压传感器&#xff0c;绝压…

多传感器融合定位(一)——3D激光里程计

目录 一、点云地图整体流程 二、激光里程计方案 2.1 ICP点到点 2.1.1 ICP推导 2.1.2 ICP改进 2.2 NDT 2.2.1 NDT推导 2.2.2 NDT改进 2.3 LOAM系 2.3.1 LOAM 2.3.2 A-LOAM 2.3.3 LEGO-LOAM 2.4 数据集及评价指标 2.4.1 KITTI简介 2.4.2 指标 一、点云地图整体流程…

MMDetection3D 1.1:统一易用的 3D 感知平台

自从两年前 MMDetection3D 发布以来&#xff0c;我们收到了很多用户的反馈&#xff0c;其中有不少有价值的建议&#xff0c;同时也有很多吐槽&#xff08;当然我们非常欢迎大家来吐槽&#xff09;&#xff0c;也有很多社区用户参与到我们代码库的完善中&#xff0c;我们也非常高…

关于传感器

人的眼睛就是传感器。人对光的感应靠眼睛&#xff0c;在光亮条件下&#xff0c;人眼能分辨各种颜色。首先从人眼构造开始讲起。眼睛最里面的膜是视网膜&#xff0c;它布满了整个眼睛后部的内壁。当眼球适当地聚焦时&#xff0c;来自眼睛外部的光在视网膜上成像。在视网膜表面分…

ToF 3D视觉传感技术详解、应用场景和市场前景

‍转载自&#xff1a;3d tof 现行的深度传感镜头作为智能手机的一大创新&#xff0c;已在目前主流智能手机上广泛应用。现因苹果在最新版iPad Pro上搭载了D-ToF&#xff08;直接飞行时间法&#xff09;深度传感镜头引起了极大的关注&#xff0c;推动了3D视觉在消费场景的新应用…

奥比中光Orbbec Astra Pro RGBD 3D视觉传感器在ROS(indigo和kinetic)使用说明

作者&#xff1a;童虎 编辑&#xff1a;3D视觉开发者社区 Orbbec Astra Pro传感器在ROS&#xff08;indigo和kinetic&#xff09;使用说明 这款摄像头使用uvc输入彩色信息&#xff0c;需要libuvc和libuvc_ros这样才能在ROS正常使用彩色功能。 请在下面网址&#xff0c;分别下载…

3D传感相关

这里涉及了各种3D传感相关的工作&#xff0c;包含单目、双目、ToF等传感器&#xff0c;涉及了计算摄影、ToF深度测量、双目深度估计、多视角深度估计、相机离线标定、相机在线标定、NeRF等技术&#xff0c;可谓3D视觉集大成者。 这里简单介绍下本文将会提到的两种3D成像技术&a…

3D激光雷达SLAM算法学习02——3D激光雷达传感器

1.本篇思维导图 2. 3D激光雷达传感器分类 3. 机械激光雷达 直观视频感受&#xff1a;Velodyne 优点&#xff1a;360视野&#xff0c;精度高&#xff0c;工作稳定&#xff0c;成像快 缺点&#xff1a;成本较高&#xff0c;不符合自动驾驶车规&#xff0c;生命周期短&#xff0c…