Kafka 单机(集群)安装部署(自带zookeeper)

家电修理 2023-07-16 19:17www.caominkang.com电器维修

背景
kafka官网http://kafka.apache./
kafka下载页面http://kafka.apache./donloads
kafka配置快速入门http://kafka.apache./quickstart
新版本的kafka自带有zookeeper,本篇文章记录使用自带zookeeper搭建kafka集群。

消息队列术语

•Kafka将消息以ic为单位进行归纳。
•将向Kafka ic发布消息的程序成为producers.
•将预订ics并消费消息的程序成为consumer.
•Kafka以集群的方式运行,可以由一个或多个服务组成,每个服务叫做一个broker.
producers通过网络将消息发送到Kafka集群,集群向消费者提供消息,如下图所示

客户端和服务端通过TCP协议通信。Kafka提供了Java客户端,并且对多种语言都提供了支持。

3.1.0 稳定版本下载地址

https://.apache./dyn/closer.cgi?path=/kafka/3.1.0/kafka_2.13-3.1.0.tgz

1、操作命令

cd /usr/local/

tar -zxvf kafka_2.11-2.0.0.tgz  //解压 tar 包

rm -rf LICENSE NOTICE site-docs  //删除 LICENSE、NOTICE 、site-docs

2、启动zookeeper

cd bin/

./zookeeper-server-start.sh ../config/zookeeper.properties&   //启动

jps               //查看启动成功 

3、启动Kafka

./kafka-server-start.sh ../config/server.properties&

   

 4、停止Kafka 、zookeeper

./kafka-server-s.sh   //先停kafka server

./zookeeper-server-s.sh  //再停zookeeper

5、Kafka 使用

1)创建ic   pushu

./kafka-ics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --ic pushu 

2) 查询ic 是否OK

./kafka-ics.sh --list --bootstrap-server localhost:9092

 3)生产者

 ./kafka-console-producer.sh --broker-list  localhost:9092  --ic pushu

4)消费者

./kafka-console-consumer.sh --bootstrap-server localhost:9092  --ic pushu

 单机方式已验证OK,可以大胆的通过Python,Java,等Client方式对接使用。

6、集群方式

1)其他机器 安装Kafka

分别往192.168.10.66、192.168.10.88、192.168.10.99这三台虚拟机上安装kafka

2)配置server.properties

cd  /data/softare/kafka_2.13-3.1.0/config

配置 broker.id 每个机器独立的ID 

配置zookeeper集群端口

  3)集群配置完成,非常完美!

Copyright © 2016-2025 www.caominkang.com 曹敏电脑维修网 版权所有 Power by