微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

如何将 Clickhouse 的 Zookeeper 迁移到新实例?

如何解决如何将 Clickhouse 的 Zookeeper 迁移到新实例?

我在 Kubernetes 上的 2 个副本中托管 ClickHouse (v20.4.3.16),它在 3 个副本中使用 Zookeeper (v3.5.5)(也托管在同一个 Kubernetes 集群上)。

我需要将 ClickHouse 使用的 Zookeeper 迁移到另一个安装中,仍然是 3 个副本,但 v3.6.2。

我尝试做的是以下内容

  • 为了冻结 Zookeeper 节点,我停止了 ClickHouse 的所有实例。 使用 zk-shell,我将旧 ZK 集群的 /clickhouse 中的所有 znode 镜像到新的(花了一些时间,但没有问题)
  • 我重新启动了 ClickHouse 的所有实例,一次一个,现在连接到 Zookeeper 的新实例。
  • 两个 ClickHouse 实例都正确启动,没有任何错误,但每次我尝试(或有人尝试)通过插入向表中添加行时,ClickHouse 都会记录如下内容
2021.01.13 13:03:36.454415 [ 135 ] {885576c1-832e-4ac6-82d8-45fbf33b7790} <Warning> default.check_in_availability: Tried to add obsolete part 202101_0_0_0 covered by 202101_0_1159_290 (state Committed)

并且永远不会插入新数据。

我已经阅读了有关数据复制和重复数据删除的所有信息,但我确信我在插入中添加了新数据,而且所有表都使用了时间字段(event_time 或 update_timestamp 等),但它根本没有不行。

将 ClickHouse 附加回旧的 Zookeeper,插入相同的数据不会出现问题。

在更改 Zookeeper 端点之前需要做些什么吗?我是否遗漏了一些明显的东西?

解决方法

使用 zk-shell,我

您不能使用此方法,因为它不会复制用于零件块编号的自动增量值。

有更简单的方法。您可以通过添加新的 ZK 节点作为关注者来迁移 ZK 集群。

Here is a plan for ZK 3.4.9 (no dynamic reconfiguration):
1. Configure the 3 new ZK nodes as a cluster of 6 nodes (3 old + 3 new),start them. No changes needed for the 3 old ZK nodes at this time.
    The new server would not connect and download a snapshot,so I had to start one of them in the cluster of 4 nodes first.
2. Make sure the 3 new ZK nodes connected to the old ZK cluster as followers (run echo stat | nc localhost 2181 on the 3 new ZK nodes)
3. Confirm that the leader has 5 synced followers (run echo mntr | nc localhost 2181 on the leader,look for zk_synced_followers)
7. Remove the 3 old ZK nodes from zoo.cfg on the 3 new ZK nodes.
8. Stop data loading in CH (this is to minimize errors when CH loses ZK).
4. Change the zookeeper section in the configs on the CH nodes (remove the 3 old ZK servers,add the 3 new ZK servers)
5. Restart all CH nodes (CH must restart to connect to different ZK servers)
6. Make sure there are no connections from CH to the 3 old ZK nodes (run echo stat | nc localhost 2181 on the 3 old nodes,check their Client ssection).
11. Turn off the 3 old ZK nodes
9. Restart the 3 new ZK nodes. They should form a cluster of 3 nodes.
10. When CH reconnects to ZK,start data loading.

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。