服务注册与分布式协调 / 系统课时

数据目录与磁盘规划

数据目录与磁盘规划

ZooKeeper 的持久化稳定性很大程度取决于事务日志和快照落盘方式。本节给出一套可直接落地的目录、磁盘、容量与权限规划方法,并通过命令验证目录是否真正落在预期设备上。

学习目标

  • 区分 dataDir 与 dataLogDir 的职责,并判断是否需要独立磁盘。
  • 配置目录权限、文件系统与容量预留,降低磁盘抖动和写满风险。
  • 用系统命令验证挂载设备、可写权限和剩余空间是否符合规划。

先明确两个目录的职责

dataDir 保存 ZooKeeper 的数据快照,并包含用于标识服务器编号的 myid 文件。未配置 dataLogDir 时,事务日志也会写入 dataDir,快照写入与顺序日志写入就会竞争同一块设备。

dataLogDir 专门承载事务日志。事务提交依赖日志持久化延迟,因此生产环境更关注这个目录的稳定写延迟,而不只是磁盘标称吞吐量。

目录 主要内容 I/O 特征 规划重点
dataDir 快照、myid 周期性写入、恢复时读取 容量、可靠性、恢复速度
dataLogDir 事务日志 持续顺序写、延迟敏感 低延迟、低抖动、独立 I/O

如果两个目录只是同一物理盘上的两个分区,仍会共享底层 I/O 队列,不能获得真正的隔离效果。写入压力较高的集群应优先把事务日志放到独立 SSD/NVMe 或等价的低延迟块存储上。

创建目录并设置最小权限

假设 ZooKeeper 由 zookeeper 用户运行,数据盘挂载到 /srv/zookeeper/data,日志盘挂载到 /srv/zookeeper/txnlog。先创建目录,再限制为服务账号和同组用户可访问。

bash
sudo install -d -o zookeeper -g zookeeper -m 0750 /srv/zookeeper/data
sudo install -d -o zookeeper -g zookeeper -m 0750 /srv/zookeeper/txnlog

预期结果:

text
命令成功时无标准输出,退出码为 0。

不要给目录设置 0777。生产节点还应保证挂载点的上级目录不会把写权限开放给无关账号,并确认备份、巡检工具只获得完成任务所需的最小权限。

配置 dataDir 与 dataLogDir

下面是 zoo.cfg 中与本节直接相关的片段示例,其他集群参数仍按现有部署保留。

properties
dataDir=/srv/zookeeper/data
dataLogDir=/srv/zookeeper/txnlog

生效后,快照继续写入 dataDir,事务日志改写到 dataLogDir。修改生产配置前应先确认两块设备均已持久挂载,并避免把临时盘或容器可写层当作持久化目录。

给容量和文件系统留出余量

容量规划不要只看当前快照大小。事务日志增长与写请求量相关,快照和历史日志也会在清理周期内共同占用空间。更可靠的做法是记录至少一个业务高峰周期的增长速度,再按“峰值增长量 × 保留窗口 + 恢复余量”估算需求。

监控上应同时观察使用率和剩余绝对空间。可以把 70%~80% 作为预警区间的起点,再结合单日增长速度设置更早的容量告警;具体阈值应由磁盘大小和扩容响应时间决定,而不是机械照搬固定百分比。

文件系统应选择成熟、支持稳定 fsync 语义的本地或块存储文件系统,并避免把事务日志放在高抖动的共享网络文件系统上。日志盘还应尽量避免与大量应用日志、临时文件或其他随机 I/O 负载混用。

验证设备、权限与剩余空间

目录创建和配置完成后,先确认两个路径的所有者、权限和底层设备,再检查服务账号是否可写。

bash
stat -c '%U:%G %a %n' /srv/zookeeper/data /srv/zookeeper/txnlog
findmnt -T /srv/zookeeper/data -no SOURCE,TARGET
findmnt -T /srv/zookeeper/txnlog -no SOURCE,TARGET
sudo -u zookeeper test -w /srv/zookeeper/data
sudo -u zookeeper test -w /srv/zookeeper/txnlog
df -h /srv/zookeeper/data /srv/zookeeper/txnlog

预期输出示例:

text
zookeeper:zookeeper 750 /srv/zookeeper/data
zookeeper:zookeeper 750 /srv/zookeeper/txnlog
/dev/nvme0n1p1 /srv/zookeeper/data
/dev/nvme1n1p1 /srv/zookeeper/txnlog
Filesystem      Size  Used Avail Use% Mounted on
/dev/nvme0n1p1  <SIZE> <USED> <AVAIL> <PCT> /srv/zookeeper/data
/dev/nvme1n1p1  <SIZE> <USED> <AVAIL> <PCT> /srv/zookeeper/txnlog

test -w 成功时没有标准输出;若命令链继续执行,说明服务账号具备写权限。实际设备名和容量会不同。若两个 findmnt 结果显示同一底层设备,应重新评估是否满足事务日志隔离目标;若权限正确但写入仍失败,则继续检查只读挂载、磁盘写满、inode 耗尽和宿主机安全策略。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

数据目录与磁盘规划

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通