网站搜索

如何在 CentOS/RHEL 7 中安装 Apache Kafka


Apache Kafka是一个强大的消息传递引擎,广泛应用于大数据项目和数据分析生命周期。它是一个用于构建实时数据流管道的开源平台。它是一个具有可靠性、可扩展性和持久性的分布式发布订阅平台。

我们可以将Kafka作为独立的或作为集群。 Kafka存储流数据,可以将其分类为主题主题将具有多个分区,以便它可以处理任意数量的数据。此外,我们可以拥有多个副本以实现容错,就像我们在 HDFS 中一样。在Kafka集群中,broker是存储已发布数据的组件。

Zookeeper 是运行 Kafka 集群的必备服务,因为它用于管理 Kafka 代理的协调。 Zookeeper 在生产者和消费者之间扮演着关键角色,负责维护所有代理的状态。

在本文中,我们将解释如何在单节点CentOS 7RHEL 7中安装Apache Kafka

在 CentOS 7 中安装 Apache Kafka

1. 首先,您需要在系统上安装Java,才能正常运行Apache Kafka。因此,使用以下 yum 命令安装默认可用的 Java 版本,并验证 Java 版本,如图所示。

yum -y install java-1.8.0-openjdk
java -version

2.接下来,从官网下载Apache Kafka的最新稳定版本或者使用下面的wget命令直接下载并解压。

wget https://mirrors.estointernet.in/apache/kafka/2.7.0/kafka_2.13-2.7.0.tgz 
tar -xzf kafka_2.13-2.7.0.tgz 

3. 创建kafka包的符号链接,然后将Kafka环境路径添加到.bash_profile文件中,然后如图所示进行初始化。

ln -s kafka_2.13-2.7.0 kafka
echo "export PATH=$PATH:/root/kafka_2.13-2.7.0/bin" >> ~/.bash_profile
source ~/.bash_profile

4. 接下来,启动 Zookeeper,它内置于 Kafka 包中。由于它是单节点集群,因此您可以使用默认属性启动zookeeper。

zookeeper-server-start.sh -daemon /root/kafka/config/zookeeper.properties

5.通过简单地telnetZookeeper端口2181来验证zookeeper是否可以访问。


telnet localhost 2181

6. 使用默认属性启动Kafka


kafka-server-start.sh -daemon /root/kafka/config/server.properties

7. 通过简单地telnet到Kafka端口9092来验证Kafka是否可以访问


telnet localhost 9092

8. 接下来,创建一个示例主题。

kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic tecmint

9.列出创建的主题。

kafka-topics.sh --zookeeper localhost:2181 --list

结论

在本文中,我们了解了如何在 CentOS 7 中安装单节点 Kafka 集群。我们将在下一篇文章中了解如何安装多节点 Kafka 集群。