微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

clickhouse 集群:数据未复制

如何解决clickhouse 集群:数据未复制

我有一个包含 2 个节点的集群用于测试。 1 个分片和 2 个副本。 zookeeper集群中的3个节点

<remote_servers>
  <ch_cluster>
    <shard>
      <internal_replication>true</internal_replication>
      <replica>
        <host>ch1</host>
        <port>9000</port>
      </replica>
      <replica>
        <host>ch2</host>
        <port>9000</port>
      </replica>
    </shard>
  </ch_cluster>
</remote_servers>

ch1 中的宏:

  <macros>
        <shard>shard_01</shard>
        <replica>replica-01</replica>
    </macros>

ch2 中的宏:

   <macros>
        <shard>shard_01</shard>
        <replica>replica-02</replica>
    </macros>

动物园管理员配置:

   <zookeeper>
        <node>
            <host>zoo1</host>
            <port>2181</port>
        </node>
        <node>
            <host>zoo2</host>
            <port>2181</port>
        </node>
        <node>
            <host>zoo3</host>
            <port>2181</port>
        </node>
    </zookeeper>

我创建了第一个

CREATE TABLE IF NOT EXISTS test.hits_local ON CLUSTER ch_cluster
(
  `date` Datetime,`user_id` String,`pageviews` Int32
)
ENGINE = ReplicatedMergeTree('/clickhouse/ch_cluster/tables/{shard}/hits_local','{replica}')
PARTITION BY toStartOfHour(date)
ORDER BY (date)

然后我创建一个分布式表:

CREATE TABLE IF NOT EXISTS test.hits ON CLUSTER 'ch_cluster'
AS test.hits_local 
 (
      `date` Datetime,`pageviews` Int32
    )
ENGINE = distributed('ch_cluster','test','hits_local')

然后我在ch1test.hits_local表中插入数据 当从ch2中的test.hits_local中选择数据时,没有数据

然后我尝试从 test.hits 分布式表中选择 ch2 数据出现在 5-6 分钟ch2

中的 test.hits_local 中没有数据

我的问题是何时将数据复制到 ch2? 谁负责将数据复制到另一个节点?它是动物园管理员还是我应该将数据插入到 ch1 和 ch2 的表中? 我应该将internal_replicationtrueinternal_replication 更改为false 吗?

是否需要将数据复制到ch2中的test.hits_local?

谢谢。

解决方法

我应该将 true 更改为 false 吗?

不,你不应该。如果您使用 ReplicatedMergeTree internal_replication 必须为真

复制由 ReplicatedMergeTree 表引擎内部完成。

副本使用它们的主机名和端口=9009 进行通信。 检查 system.replication_queue 表是否有错误。

节点“ch1”很可能在 Zookeeper 中宣布了自己的主机名,即“localhost”。 所以第二个节点“ch2”无法访问 localhost:9009 之类的。 您可以在 clickhouse-server.log 或 system.replication_queue 中找到此类问题(它有一列有错误)。

即使在负载非常高的设置中,复制延迟通常也不到 2 秒。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。