原文链接:Migrate brokers by modifying broker IDs in meta.properties
-
环境
-
Broker迁移步骤
- Step-1: 以旧的Broker的身份启动一个新的Broker。
- Step-2: 停止新Broker和它正在替换的旧Broker。
- Step-3: 在 Cloudera Manager 和 data directory/meta.properties 中将新Broker更改为旧Broker的
broker.id
。 - Step-4: 启动新Broker
本文的目的:
我们的目的是替换Kafka Broker的节点。
我们有 2 个新添加到 CDP PvC Base 集群的节点。
我们将原来使用的两个 Kafka Broker 迁移到这两个新节点上。
本文参考ClouderaCDP官方文档作为指导。
环境
以下是当前使用的 Kafka Brokers:
Broker | Host | IP |
---|---|---|
1546345005 | c3669-node3.coelab.cloudera.com | 172.25.36.133 |
1546345009 | c3669-node4.coelab.cloudera.com | 172.25.36.207 |
1546345001 | c3669-node2.coelab.cloudera.com | 172.25.36.206 |
Broker迁移步骤
Step-1: 以旧的Broker的身份启动一个新的Broker。
CM UI -> Kafka -> Instances -> Add Role Instances
我们一次只添加一个 Broker,我们需要一个一个地替换 Broker。
把主机 – host-10-17-102-138.coe.cloudera.com作为Kafka Broker role添加完毕后,它应该不会马上启动。
现在我们应该可以在CM中看见Kafka集群处于陈旧信息状态,所以我们通过CM UI的指示部署客户端配置文件。
现在,我们启动新添加的位于host-10-17-102-138.coe.cloudera.com的Broker。
Step-2: 停止新Broker和它正在替换的旧Broker。
在这个例子中,我用新的Broker – 1546351866替换旧的Broker – 1546345005,旧的位于c3669-node3.coelab.cloudera.com,新的位于host-10-17-102-138.coe.cloudera.com。
Step-3: 在 Cloudera Manager 和 data directory/meta.properties 中将新Broker更改为旧Broker的 broker.id
。
我们需要在新的Broker主机上将broker.id
改为旧的Broker的ID。
我们还需要在CM UI上将broker.id
也更改一下,这也会出发陈旧信息计算,所以按照CM的提示部署客户端配置文件就好了。
Step-4: 启动新Broker。
我们现在可以在CM UI上启动位于host-10-17-102-138.coe.cloudera.com的新的Broker。在启动之前,我们应该会看到有关”lagging replicas“的健康检查的告警信息。
启动新的 Broker 后,过一段时间(取决于集群上的数据量),Kafka Broker 集群将再次恢复健康。
这就是 Broker 更换/迁移的全部内容。
谢谢阅读。