0

0

Ubuntu Kafka集群如何搭建

星降

星降

发布时间:2025-04-14 13:06:02

|

802人浏览过

|

来源于php中文网

原创

在ubuntu上搭建kafka集群涉及多个步骤,包括安装和配置kafka以及zookeeper。以下是详细的步骤指南:

1. 安装Zookeeper集群

1.1 集群规划

在主机node1、node2和node3上部署Zookeeper。

1.2 解压安装

Apache Zookeeper官网下载Zookeeper 3.5.7版本,并在node1服务器解压到/export/server目录下,重命名为zookeeper-3.5.7。

1.3 配置服务器编号

在/export/server/zookeeper-3.5.7目录下创建zkData目录,并在其中创建一个名为myid的文件,文件内容为节点编号(例如,node1为1,node2为2,node3为3)。

1.4 配置zoo.cfg文件

  • 重命名/export/server/zookeeper-3.5.7/conf目录下的zoo_sample.cfg为zoo.cfg。
  • 编辑zoo.cfg文件,配置数据存储路径和集群服务器信息:
    dataDir=/opt/module/zookeeper-3.5.7/zkData
    
    server.1=node1_ip:2888:3888
    server.2=node2_ip:2888:3888
    server.3=node3_ip:2888:3888
    
  • 将配置好的zoo.cfg文件复制到node2和node3服务器。

1.5 集群操作

在每台服务器上进入bin目录,分别执行以下命令启动Zookeeper:

./zkServer.sh start
./zkServer.sh status

检查状态,确保两台为Follower,一台为Leader,集群安装成功。

2. 安装Kafka集群

2.1 集群规划

在主机node1、node2和node3上部署Kafka。

LongCat AI
LongCat AI

美团推出的AI对话问答工具

下载

2.2 解压安装

Apache Kafka官网下载Kafka 2.12-3.0.0版本,并在node1服务器解压到/export/server目录下,重命名为kafka-3.0.0。

2.3 配置Kafka

进入/export/server/kafka-3.0.0/config目录,编辑server.properties文件,配置以下内容:

  • broker.id:每个节点的唯一编号(例如,node1为1,node2为2,node3为3)。
  • log.dirs:Kafka日志存放路径(例如,/export/server/kafka-3.0.0/datas)。
  • zookeeper.connect:Zookeeper集群地址(例如,node1_ip:2181)。

2.4 启动Kafka

在每台服务器上进入bin目录,分别执行以下命令启动Kafka:

./kafka-server-start.sh config/server.properties

3. 验证集群

使用Kafka提供的命令行工具验证集群状态:

./kafka-topics.sh --list --bootstrap-server node1_ip:9092

注意事项

  • 确保所有节点的防火墙允许Kafka和Zookeeper使用的端口通信。
  • 根据实际需求调整Kafka和Zookeeper的配置参数,例如内存、日志存储路径等。

通过以上步骤,你可以在Ubuntu上成功搭建一个Kafka集群。如果有任何问题,请参考官方文档或相关社区资源。

相关文章

Kafka Eagle可视化工具
Kafka Eagle可视化工具

Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等,有需要的小伙伴快来保存下载体验吧!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
kafka消费者组有什么作用
kafka消费者组有什么作用

kafka消费者组的作用:1、负载均衡;2、容错性;3、广播模式;4、灵活性;5、自动故障转移和领导者选举;6、动态扩展性;7、顺序保证;8、数据压缩;9、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

167

2024.01.12

kafka消费组的作用是什么
kafka消费组的作用是什么

kafka消费组的作用:1、负载均衡;2、容错性;3、灵活性;4、高可用性;5、扩展性;6、顺序保证;7、数据压缩;8、事务性支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

149

2024.02.23

rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

201

2024.02.23

dubbo和zookeeper有什么区别
dubbo和zookeeper有什么区别

dubbo和zookeeper的区别:1、功能定位;2、使用场景;3、数据存储与协调;4、集成与关系;5、性能与可靠性;6、扩展性与灵活性;7、社区与生态系统。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

225

2024.02.23

apache是什么意思
apache是什么意思

Apache是Apache HTTP Server的简称,是一个开源的Web服务器软件。是目前全球使用最广泛的Web服务器软件之一,由Apache软件基金会开发和维护,Apache具有稳定、安全和高性能的特点,得益于其成熟的开发和广泛的应用实践,被广泛用于托管网站、搭建Web应用程序、构建Web服务和代理等场景。本专题为大家提供了Apache相关的各种文章、以及下载和课程,希望对各位有所帮助。

408

2023.08.23

apache启动失败
apache启动失败

Apache启动失败可能有多种原因。需要检查日志文件、检查配置文件等等。想了解更多apache启动的相关内容,可以阅读本专题下面的文章。

930

2024.01.16

常见的linux系统有哪些
常见的linux系统有哪些

linux系统有Ubuntu、Fedora、CentOS、Debian、openSUSE、Arch Linux、Gentoo、Slackware、Linux Mint、Kali Linux。更多关于linux系统的文章详情请阅读本专题下面的文章。php中文网欢迎大家前来学习。

806

2023.10.27

ubunt上安装和配置vnc
ubunt上安装和配置vnc

安装方法:安装VNC服务器、启动VNC服务器、设置VNC密码等等。想了解更多ubuntu的相关内容,可以阅读本专题下面的文章。

412

2023.12.28

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

19

2026.01.20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 2.9万人学习

HTML+CSS基础与实战
HTML+CSS基础与实战

共132课时 | 9.6万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号