微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

kafka集群搭建

kafka相关术语

Producer: 消息生产者,就是向kafka broker发消息的客户端

Consumer: 消息消费者,向kafka broker取消息的客户端

Consumer Group(简称"CG"):消费者组

broker:一台kafka服务器就是一个broker,一个集群由多个broker组成,一个broker可以容纳多个topic

Topic: 可以理解为一个队列,生产者和消费者面向的就是一个topic

Parition: 为了实现扩展性,一个非常大的topic可以分不到多个broker(即服务器)上,一个topic可以分为多个pairtition,每个partition是一个有序的队列。

Replica: 副本,为保证集群中的某个节点发生故障时,该节点上的partition数据不丢失,且kafka仍然能够继续工作,kafka提供了副本机制,一个topic的每个分区都有若干个副本,一个leader和若干个follower。

leader: 每个分区多个副本为"主",生产者发送数据的对象,以及消费者消费数据的对象都是leader

Follower: 每个分区多个副本中的"从",实时从leader中同步数据,保持和leader数据的同步。leader发生故障时,某个follower会成为新的leader

 

部署kafka环境

1>:下载Kafka软件并解压到指定目录

下载略

环境变量写到/etc/profild.d/下面

export KAFKA_HOME=/oldboyedu/softwares/kafka
export PATH=$PATH:$KAFKA_HOME/bin

2>:创建符号连接并配置环境变量

创建软连接略 

修改配置文件:/oldboyedu/softwares/kafka/config/server.properties 

...
broker.id=101
log.dirs=/oldboyedu/data/kafka-3.0.0
zookeeper.connect=10.0.0.102:2181,10.0.0.103:2181,10.0.0.104:2181/oldboyedu-kafka-3.0.0

 

3>:启动kafka节点

kafka-server-start.sh -daemon     /oldboyedu/softwares/kafka/config/server.properties

 

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐