kafka 命令行操作大全

article/2025/10/7 4:29:07

kafka 命令行操作大全

  • 一、集群相关常用命令
  • 二、topic相关常用命令
    • 2.1 脚本&参数简介
    • 2.2 举例
  • 三、生产者命令行常用操作
    • 3.1 脚本&参数简介
    • 3.2 举例发送消息
  • 四、生产者命令行常用操作
    • 4.1 脚本&参数简介
    • 4.2 举例消费消息

这里主要讲命令行操作,如何安装网上太多资料,所以这里就不再赘述了。

一、集群相关常用命令

# 启动zookeeper
bin/zookeeper-server-start.sh config/zookeeper.properties &# 停止zookeeper
bin/zookeeper-server-stop.sh# 前台启动broker Ctrl + C 关闭
bin/kafka-server-start.sh <path>/server.properties# 后台启动broker
bin/kafka-server-start.sh -daemon <path>/server.properties# 关闭broker
bin/kafka-server-stop.sh

二、topic相关常用命令

2.1 脚本&参数简介

# 集群使用脚本
bin/kafka-topics.sh
参数概述
–bootstrap-server <String: server toconnect to>连接的Kafka Broker主机名称和端口号
–topic <String: topic>操作的topic名称
–create创建主题
–delete删除主题
–alter修改主题
–list查看所有主题
–describe查看主题详细描述。
–partitions <Integer: # of partitions>设置分区数
–replication-factor<Integer: replication factor>设置分区副本
–config <String: name=value>更新系统默认的配置

增删改查qaq~

2.2 举例

我这里kafka配置了全局访问。实际找到对应安装目录的bin目录中去执行对应脚本!
1)查询服务器所有topic

kafka-topics --bootstrap-server Kafka-Broker主机名称:端口号 --list

在这里插入图片描述

2)创建demo topic

kafka-topics --bootstrap-server Kafka-Broker主机名称:端口号 --create --partitions 1 --replication-factor 2 --topic demo

执行后再执行查询命令,demo topic 已经存在。
在这里插入图片描述
3)查看demo主题的详情

kafka-topics --bootstrap-server Kafka-Broker主机名称:端口号 --describe --topic demo

在这里插入图片描述
注解:有个简单了解,暂时无需深究!
segment.bytes:表示 Kafka中log日志是分成一块块存储的,此配置是指log日志划分 成块的大小,默认值1G
Replicas:表示副本存在哪个机器上
Leader:主副本在哪台机器上
Isr: 维护的isr队列机器名,选举新主副本会使用

4)修改分区数(注意:分区数只能增加,不能减少)

kafka-topics --bootstrap-server Kafka-Broker主机名称:端口号 --alter --topic demo --partitions 3

在这里插入图片描述

5)删除topic

kafka-topics --bootstrap-server Kafka-Broker主机名称:端口号 --delete --topic demo

在这里插入图片描述

三、生产者命令行常用操作

3.1 脚本&参数简介

# 使用脚本
kafka-console-producer.sh
参数概述
–bootstrap-server <String: server toconnect to>连接的Kafka Broker主机名称和端口号
–topic <String: topic>操作的topic名称

3.2 举例发送消息

kafka-console-producer --bootstrap-server Kafka-Broker主机名称:端口号 --topic demo

在这里插入图片描述

四、生产者命令行常用操作

4.1 脚本&参数简介

# 使用脚本
kafka-console-consumer.sh
参数概述
–bootstrap-server <String: server toconnect to>连接的Kafka Broker主机名称和端口号
–topic <String: topic>操作的topic名称
—from-beginnin从头开始消费
–group <String: consumer group id>指定消费者组名称

4.2 举例消费消息

1)消费demo 主题中的数据

kafka-console-consumer --bootstrap-server Kafka-Broker主机名称:端口号 --topic demo

在这里插入图片描述

1)消费demo 主题中的数据

kafka-console-consumer --bootstrap-server Kafka-Broker主机名称:端口号 --from-beginning --topic demo

在这里插入图片描述


http://chatgpt.dhexx.cn/article/t2XyXcfN.shtml

相关文章

Kafka版本讲解

1 文章背景 在维护一些老项目时候&#xff0c;总会听到 kafka 0.8版本,0.10版本&#xff0c;会感觉到很奇怪&#xff0c;为什么版本号 不是从1.0.0开始,本篇文档重点阐述一下kafka非主流的版本号 2 参考文章 Apache Kafka 3 个人理解 kafka对外发布第一个版本的时候版本号就不…

Kafka消费模式详解

美图欣赏&#xff1a; ​​​​​​ 一.Kafka是什么 在流式计算中&#xff0c;Kafka一般用来缓存数据&#xff0c;spark通过消费Kafka的数据进行计算。 1&#xff09;Apache Kafka是一个开源消息系统&#xff0c;由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目…

Hadoop生态之kafka史上最全详解!

1、消息队列的介绍 消息&#xff08;Message&#xff09;&#xff1a;是指在应用之间传送的数据&#xff0c;消息可以非常简单&#xff0c;比如只包含文本字符串&#xff0c;也可以更复杂&#xff0c;可能包含嵌入对象。 消息队列&#xff08;Message Queue&#xff09;&#x…

Kafka为什么依赖Zookeeper?

前言&#xff1a;在我们了解kafka为什么依赖zookeeper之前&#xff0c;首先要先知道zookeeper自身的一个基础架构和作用 “所有一切的努力都是为了自己的名字” Zookeeper概念扫盲 基本概述 ZooKeeper是一个分布式协调服务&#xff0c;它的主要作用是为分布式系统提供一致性…

Kafka能干什么,为什么如此受欢迎?

一、Kafka是什么&#xff1f; Kafka是最初由Linkedin公司开发的一个分布式、分区的、多副本的、多订阅者,由Scala和Java编写的基于zookeeper协调的分布式流处理平台&#xff0c;常见可以用于web日志、访问日志&#xff0c;消息服务等等&#xff0c;Linkedin于2010年将其贡献给了…

Kafka集群部署

文章目录 一、Kafka集群部署二、启动Kafka集群 Kafka是一个高吞吐量、基于ZooKeeper&#xff08;ZooKeeper维护Kafka的broker信息&#xff09;的分布式发布订阅信息系统&#xff0c;它可以处理消费者在网站中的所有动作&#xff08;网页浏览&#xff0c;搜索和其他用户的行动&a…

kafka

Kafka是什么 Apache Kafka是一个开源消息系统&#xff0c;由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。 Kafka最初是由LinkedIn开发&#xff0c;并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低…

Kafka学习之一 Kafka是什么,主要应用在什么场景?

1、kafka是什么&#xff1f; Kafka是由LinkedIn开发的一个分布式基于发布/订阅的消息系统&#xff0c;使用Scala编写&#xff0c;它以可水平扩展和高吞吐率而被广泛使用。 2、产生背景 Kafka是一个消息系统&#xff0c;用作LinkedIn的活动流&#xff08;Activity Stream&#…

kafka究竟是干嘛的?

kafka简介 一、维基百科二、消息队列2.1 什么是消息队列2.2 发布/订阅消息队列 三、kafka 简介 一、维基百科 维基百科kafka简介入口 Kafka是由Apache软件基金会开发的一个开源流处理平台&#xff0c;由Scala和Java编写。该项目的目标是为处理实时数据提供一个统一、高吞吐、低…

Kafka是什么?为什么拥有异步、削峰、解耦?有哪些角色?

一、Kafka是什么&#xff1f; Kafka是一个分布式消息中间件,支持分区的、多副本的、多订阅者的、基于zookeeper协调的分布式消息系统。 通俗来说&#xff1a; kafka就是一个存储系统&#xff0c;存储的数据形式为“消息”&#xff1b; 它的主要作用类似于蓄水池&#xff0c;…

科普:Kafka是啥?干嘛用的?

来源 | http://r6d.cn/bdjdi Kafka简介 Kafka概述&#xff1a; Kafka由 linked-in 开源 。 kafka-高产出的分布式消息系统(A high-throughput distributed messaging system)。 Kafka是一个高吞吐、分布式、基于发布订阅的消息系统&#xff0c;利用Kafka技术可以在廉价的PC Ser…

Kafka 是什么?

前言 本文隶属于专栏《1000个问题搞定大数据技术体系》&#xff0c;该专栏为笔者原创&#xff0c;引用请注明来源&#xff0c;不足和错误之处请在评论区帮忙指出&#xff0c;谢谢&#xff01; 本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系 正文 Kafka 的诞生背景…

kafka是什么?主要用在什么场景

1、kafka是什么&#xff1f; Kafka是由LinkedIn开发的一个分布式基于发布/订阅的消息系统&#xff0c;使用Scala编写&#xff0c;它以可水平扩展和高吞吐率而被广泛使用。2、产生背景 Kafka是一个消息系统&#xff0c;用作LinkedIn的活动流&#xff08;Activity Stream&#…

kafka是什么?

一、定义 Apache Kafka 是一款开源的消息系统。可以在系统中起到“肖峰填谷”的作用,也可以用于异构、分布式系统中海量数据的异步化处理。 系统包括四个主要API: Producer API 允许一个应用推送流记录通过一个或多个Kafka topics ;Consumer API 允许一个应用订阅一个或多个…

Kafka分区机制介绍与示例

Kafka中可以将Topic从物理上划分成一个或多个分区&#xff08;Partition&#xff09;&#xff0c;每个分区在物理上对应一个文件夹&#xff0c;以”topicName_partitionIndex”的命名方式命名&#xff0c;该文件夹下存储这个分区的所有消息(.log)和索引文件(.index)&#xff0c…

Kafka介绍

1. Kafka的基本介绍 1.1 什么是Kafka&#xff1f; Kafka是最初由Linkedin公司开发&#xff0c;是一个分布式、分区的、多副本的、多订阅者&#xff0c;基于zookeeper协调的分布式日志系统&#xff08;也可以当做MQ系统&#xff09;&#xff0c;常见可以用于web/nginx日志、访…

什么是Kafka?

1 kafka 是什么   Apache kafka is a distributed streaming platform&#xff0c;即官方定义 kafka 是一个分布式流式计算平台。而在大部分企业开发人员中&#xff0c;都是把 kafka 当成消息系统使用&#xff0c;即它是一个分布式消息队列&#xff0c;很少会使用 kafka 的流…

Linux 之软连接

1.创建软连接 创建文件及文件夹 创建一个软连接 创建的语法&#xff1a;ln -s是必须的&#xff0c;然后后面跟一个目标文件夹&#xff0c;最后是一个当前目录的软连接名。 删除软连接 错误示范&#xff1a; 正确删除&#xff1a; 删除软连接时&#xff0c;要注意软连接的路…

Linux下如何创建和取消软连接

建立软连接&#xff1a; ln -s /usr/nodejs/bin/npm /usr/local/bin/ ln -s /usr/nodejs/bin/node /usr/local/bin/ 删除软连接&#xff1a; rm -rf /usr/local/bin/node注意&#xff1a;取消软连接最后没有/&#xff0c;rm -rf 软连接。加上/是删除文件夹 可以看到&#xf…

ubuntu 软连接建立

程序报错 /bin/sh: 1: /usr/bin/c: not found/usr/bin 主要放置一些应用软体工具的必备执行档例如c、g、gcc&#xff0c;一些软件的运行脚本&#xff0c;在目录中确实没有看到c,g问题应该出在这里 g -v报错Unable to exec g.real: No such file or directory 解决&#xff1a;…