【译】Broker Migration – 通过修改 meta.properties 中的代理 ID 来迁移Kafka Broker

原文链接:Migrate brokers by modifying broker IDs in meta.properties

  • 环境

  • Broker迁移步骤

    • Step-1: 以旧的Broker的身份启动一个新的Broker。
    • Step-2: 停止新Broker和它正在替换的旧Broker。
    • Step-3: 在 Cloudera Manager 和 data directory/meta.properties 中将新Broker更改为旧Broker的 broker.id
    • Step-4: 启动新Broker

本文的目的:

我们的目的是替换Kafka Broker的节点。
我们有 2 个新添加到 CDP PvC Base 集群的节点。
我们将原来使用的两个 Kafka Broker 迁移到这两个新节点上。
本文参考ClouderaCDP官方文档作为指导。

环境

以下是当前使用的 Kafka Brokers:

kafka_brokers_original.png

Broker Host IP
1546345005 c3669-node3.coelab.cloudera.com 172.25.36.133
1546345009 c3669-node4.coelab.cloudera.com 172.25.36.207
1546345001 c3669-node2.coelab.cloudera.com 172.25.36.206

Broker迁移步骤

Step-1: 以旧的Broker的身份启动一个新的Broker。

kafka_add_broker-1.png

CM UI -> Kafka -> Instances -> Add Role Instances

kafka_add_broker-2.png

我们一次只添加一个 Broker,我们需要一个一个地替换 Broker。

把主机 – host-10-17-102-138.coe.cloudera.com作为Kafka Broker role添加完毕后,它应该不会马上启动。
现在我们应该可以在CM中看见Kafka集群处于陈旧信息状态,所以我们通过CM UI的指示部署客户端配置文件

现在,我们启动新添加的位于host-10-17-102-138.coe.cloudera.com的Broker。

Step-2: 停止新Broker和它正在替换的旧Broker。

kafka_stop_new_and_old_broker-1.png

在这个例子中,我用新的Broker – 1546351866替换旧的Broker – 1546345005,旧的位于c3669-node3.coelab.cloudera.com,新的位于host-10-17-102-138.coe.cloudera.com

Step-3: 在 Cloudera Manager 和 data directory/meta.properties 中将新Broker更改为旧Broker的 broker.id

kafka_change_brokerId-1.png

我们需要在新的Broker主机上将broker.id改为旧的Broker的ID。

kafka_change_brokerId-2.png

我们还需要在CM UI上将broker.id也更改一下,这也会出发陈旧信息计算,所以按照CM的提示部署客户端配置文件就好了。

Step-4: 启动新Broker。

kafka_start_new_broker-1.png

我们现在可以在CM UI上启动位于host-10-17-102-138.coe.cloudera.com的新的Broker。在启动之前,我们应该会看到有关”lagging replicas“的健康检查的告警信息。

启动新的 Broker 后,过一段时间(取决于集群上的数据量),Kafka Broker 集群将再次恢复健康。


这就是 Broker 更换/迁移的全部内容。
谢谢阅读。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享