如何在 CentOS/RHEL 7 中安装 Apache Kafka
Apache Kafka是一个强大的消息传递引擎,广泛应用于大数据项目和数据分析生命周期。它是一个用于构建实时数据流管道的开源平台。它是一个具有可靠性、可扩展性和持久性的分布式发布订阅平台。
我们可以将Kafka作为独立的或作为集群。 Kafka存储流数据,可以将其分类为主题。 主题将具有多个分区,以便它可以处理任意数量的数据。此外,我们可以拥有多个副本以实现容错,就像我们在 HDFS 中一样。在Kafka集群中,broker是存储已发布数据的组件。
Zookeeper 是运行 Kafka 集群的必备服务,因为它用于管理 Kafka 代理的协调。 Zookeeper 在生产者和消费者之间扮演着关键角色,负责维护所有代理的状态。
在本文中,我们将解释如何在单节点CentOS 7或RHEL 7中安装Apache Kafka。
在 CentOS 7 中安装 Apache Kafka
1. 首先,您需要在系统上安装Java,才能正常运行Apache Kafka。因此,使用以下 yum 命令安装默认可用的 Java 版本,并验证 Java 版本,如图所示。
yum -y install java-1.8.0-openjdk
java -version
2.接下来,从官网下载Apache Kafka的最新稳定版本或者使用下面的wget命令直接下载并解压。
wget https://mirrors.estointernet.in/apache/kafka/2.7.0/kafka_2.13-2.7.0.tgz
tar -xzf kafka_2.13-2.7.0.tgz
3. 创建kafka包的符号链接,然后将Kafka环境路径添加到.bash_profile
文件中,然后如图所示进行初始化。
ln -s kafka_2.13-2.7.0 kafka
echo "export PATH=$PATH:/root/kafka_2.13-2.7.0/bin" >> ~/.bash_profile
source ~/.bash_profile
4. 接下来,启动 Zookeeper,它内置于 Kafka 包中。由于它是单节点集群,因此您可以使用默认属性启动zookeeper。
zookeeper-server-start.sh -daemon /root/kafka/config/zookeeper.properties
5.通过简单地telnet到Zookeeper端口2181来验证zookeeper是否可以访问。
telnet localhost 2181
6. 使用默认属性启动Kafka。
kafka-server-start.sh -daemon /root/kafka/config/server.properties
7. 通过简单地telnet到Kafka端口9092来验证Kafka是否可以访问
telnet localhost 9092
8. 接下来,创建一个示例主题。
kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic tecmint
9.列出创建的主题。
kafka-topics.sh --zookeeper localhost:2181 --list
结论
在本文中,我们了解了如何在 CentOS 7 中安装单节点 Kafka 集群。我们将在下一篇文章中了解如何安装多节点 Kafka 集群。