分片集群平衡器

MongoDB 平衡器是一个后台进程,它监视每个分片集合的每个分片上的数据量。当给定分片上分片集合的数据量达到特定 移民门槛,平衡器尝试在分片之间自动迁移数据并在尊重区域的同时达到每个分片的均匀数据量。默认情况下,平衡器进程始终处于启用状态。

分片集群的平衡过程对 用户和应用程序层是完全透明的,尽管在该过程发生时可能会对性能产生一些影响。

分布在三个分片上的集合图。 对于此集合,分片之间的块数差异达到*迁移阈值*(在本例中为 2)并触发迁移。

平衡器在配置服务器副本集 (CSRS) 的主服务器上运行。

平衡器内部

范围迁移在带宽和工作负载方面带来一些开销,这两者都会影响数据库性能。平衡器试图通过以下方式最小化影响:

  • 在任何给定时间将分片限制为最多一次迁移。具体来说,一个分片不能同时参与多个数据迁移。平衡器一次迁移一个范围。

    MongoDB 可以执行并行数据迁移,但是一个分片一次最多可以参与一个迁移。对于具有n 个分片的分片集群,MongoDB 最多可以执行n/2(向下取整)次同时迁移。

    也可以看看异步范围迁移清理。

  • 仅当分片集合中数据最多的分片与该集合中数据最少的分片之间的 数据量差异达到迁移门槛。

您可以暂时禁用平衡器进行维护。

您还可以限制平衡器运行的窗口,以防止它影响生产流量。

[NOTE]

平衡窗口的规范是相对于配置服务器副本集的主要本地时区的。

在集群中添加和删除分片

将分片添加到集群会造成不平衡,因为新分片没有数据。虽然 MongoDB 立即开始将数据迁移到新的分片,但集群平衡之前可能需要一些时间。

从集群中删除分片会产生类似的不平衡,因为驻留在该分片上的数据必须在整个集群中重新分布。虽然 MongoDB 会立即开始清空已删除的分片,但在集群达到平衡之前可能需要一些时间。在此过程中不要关闭与删除的分片关联的服务器。

当您在块分布不均匀的集群中删除分片时,平衡器首先从耗尽分片中删除块,然后平衡剩余的不均匀块分布。

范围迁移程序

所有范围迁移都使用以下过程:

  1. 平衡器进程将moveRange命令发送到源分片。

  2. 源在收到内部 moveRange命令时开始移动。在迁移过程中,对范围的操作将发送到源分片。源分片负责范围的传入写入操作。

  3. 目标分片构建源所需但目标不存在的任何索引。

  4. 目标分片开始请求范围内的文档并开始接收数据副本。

  5. 在接收到范围内的最终文档后,目标分片启动同步过程以确保它具有迁移期间发生的对迁移文档的更改。

  6. 完全同步后,源分片连接到 配置数据库并使用范围的新位置更新集群元数据。

  7. 源分片完成元数据更新后,一旦该范围内没有打开的游标,源分片就会删除其文档副本。

    [NOTE]

    如果平衡器需要从源分片执行额外的块迁移,则平衡器可以开始下一个块迁移,而无需等待当前迁移过程完成此删除步骤。

迁移阈值

为了最小化平衡对集群的影响, 平衡器仅在分片集合的日期分布达到特定阈值后才开始平衡。

如果分片之间的数据差异(对于该集合)小于迁移阈值。

异步范围迁移清理

为了从分片迁移数据,平衡器一次迁移一个范围的数据。但是,平衡器不会等待当前迁移的删除阶段完成后再开始下一次范围迁移。范围迁移过程和删除阶段见范围迁移。

这种排队行为允许分片在集群严重不平衡的情况下更快地卸载数据,例如在没有预拆分的情况下执行初始数据加载时以及添加新分片时。

此行为也会影响moveRange命令,并且使用该moveRange命令的迁移脚本可能会更快地进行。

在某些情况下,删除阶段可能会持续更长时间。范围迁移得到增强,在删除阶段发生故障转移时更具弹性。即使副本集的主节点在此阶段崩溃或重新启动,也会清除孤立的文档。

平衡器设置可以改变行为,_waitForDelete以便当前迁移的删除阶段阻止下一个块迁移的开始。通常_waitForDelete用于内部测试目的。

范围迁移和复制

在范围迁移期间,该_secondaryThrottle值确定迁移何时继续处理范围中的下一个文档。

config.settings集合中:

  • 如果_secondaryThrottle平衡器的设置设置为写关注,则范围迁移期间的每个文档移动都必须在继续下一个文档之前收到请求的确认。
  • 如果_secondaryThrottle平衡器的设置设置为 true,则范围迁移期间的每个文档移动必须在迁移继续范围内的下一个文档之前从至少一个辅助节点接收确认。这相当于 { w: 2 }的写关注.
  • 如果未设置该_secondaryThrottle设置,则迁移过程不会等待复制到辅助文件,而是继续下一个文档。

独立于任何_secondaryThrottle设置,范围迁移的某些阶段具有以下复制策略:

  • 在使用范围位置更新配置服务器之前,MongoDB 会短暂暂停所有应用程序读取和写入要迁移到源分片上的集合。MongoDB 更新后恢复应用程序读写。范围移动要求所有写入在将范围移动提交到配置服务器之前和之后都被副本集的大多数成员确认。
  • 当传出迁移完成并发生清理时,必须将所有写入复制到大多数服务器,然后才能进行进一步清理(来自其他传出迁移)或新的传入迁移可以继续。

每个范围要迁移的最大文档数img

默认情况下,如果范围内的文档数大于配置范围大小除以平均文档大小的结果的 2 倍,则 MongoDB 无法移动范围。如果 MongoDB 可以移动块的子范围并将大小减小到小于该范围,则平衡器通过迁移范围来实现。 db.collection.stats()包括该avgObjSize字段,它表示集合中的平均文档大小。

对于块是太大而无法迁移:

  • 平衡器设置attemptToBalanceJumboChunks允许平衡器迁移太大而无法移动的块,只要块没有标记为jumbo。

    发出moveRangemoveChunk 命令时,可以指定forceJumbo选项以允许迁移太大而无法移动的范围。范围可能会或可能不会被标记为 jumbo 。

范围删除性能调整

rangeDeleterBatchSize您可以使用和 rangeDeleterBatchDelayMS参数调整范围删除对性能的影响。例如:

  • 要限制每批删除的文档数,可以设置 rangeDeleterBatchSize为较小的值,例如32.
  • 要在批量删除之间添加额外的延迟,您可以设置 rangeDeleterBatchDelayMS高于当前默认值的 20毫秒数。

[NOTE]

如果在要删除的集合上正在进行读取操作或打开游标,则范围删除过程可能不会继续。

更改流和孤立文档

从 MongoDB 5.3 开始,在范围迁移,不会为孤立文档的更新生成更改流事件)。

分片大小

默认情况下,随着数据集的增长,MongoDB 会尝试用每个分片上的数据填充所有可用磁盘空间。为确保集群始终有能力处理数据增长,监控磁盘使用情况以及其他性能指标。

原文 - https://docs.mongodb.com/manual/core/sharding-balancer-administration/

译者:陆文龙

Copyright © 上海锦木信息技术有限公司 all right reserved,powered by Gitbook文件修订时间: 2023-09-01 17:10:26

results matching ""

    No results matching ""