NoSQL 与搜索 / 系统课时

选择 Bulk 批大小与并发度

选择 Bulk 批大小与并发度

Bulk 调优不是寻找一个通用的“最佳条数”,而是在固定数据模型与分片条件下,找出吞吐开始变平、延迟和拒绝率尚未恶化的请求大小,再据此提高并发。本课给出一套可重复的基准方法和停手条件。

学习目标

  • 能用吞吐、Bulk 延迟和 429 拒绝共同判断批大小是否合适。
  • 能区分单个 Bulk 请求大小与客户端并发度,并按正确顺序调参。
  • 能通过可重复脚本记录候选组合,避免凭经验直接上线。

先固定测试条件

批大小必须在相同条件下比较:文档结构、目标索引、主分片数、副本数、refresh 设置、客户端网络路径都保持不变。否则吞吐变化可能来自分片或 refresh,而不是 Bulk 本身。建议先在隔离的单分片测试索引上找请求大小拐点,再回到生产等价拓扑验证。

一次 Bulk 的“大小”同时看两件事:文档条数和 NDJSON 请求体字节数。相同的 1000 条文档,若字段更多、文本更长,内存与网络压力会完全不同,因此不能把“1000 条”当成跨业务通用值。

先找单请求大小的吞吐拐点

从较小批次开始,逐步放大,例如 250、500、1000、2000 条。每个候选值都运行多轮,记录成功写入文档数除以墙钟时间得到的吞吐,同时观察单次 Bulk 的 P95 延迟和请求体大小。吞吐已经基本持平时,继续加大批次通常只会增加内存占用和失败后的重试成本。

选择时不要追求最高的瞬时峰值。若 1000 条与 2000 条吞吐接近,而 2000 条的 P95 明显更高,应优先选 1000 条,因为更小请求更容易被集群调度,也能缩小一次失败需要重放的数据量。

再提高客户端并发

确定单请求大小后,再把并发从 1 逐步增加到 2、4、8 等候选值。并发的目标是让 CPU、磁盘和各目标分片持续有工作可做,而不是让客户端堆积尽可能多的在途请求。

出现以下任一信号就应停止继续加并发:

  • 吞吐不再随并发提升,甚至开始下降。
  • Bulk P95/P99 延迟持续上升,排队时间明显增加。
  • Bulk 请求或响应 item 出现 HTTP 429,说明节点已经无法按当前速率接收写入。
  • CPU、磁盘 I/O 或 JVM 压力已经接近持续饱和。

用可重复脚本跑一组候选值

下面是 Linux Bash 基准脚本。它在隔离测试索引上固定为单主分片、无副本和 30s refresh,只改变 BATCH、CONCURRENCY、REQUESTS,并记录请求体字节数、成功吞吐、Bulk P95 以及请求级和 item 级 429。运行前需要提供可访问集群的 API Key 与 CA 证书路径。

bash
#!/usr/bin/env bash
set -euo pipefail

: "${ES_URL:?set ES_URL, for example https://localhost:9200}"
: "${ES_API_KEY:?set ES_API_KEY}"
: "${CA_CERT:?set CA_CERT}"

INDEX="${INDEX:-bulk-lab}"
BATCH="${BATCH:-1000}"
CONCURRENCY="${CONCURRENCY:-4}"
REQUESTS="${REQUESTS:-20}"

curl -sS --cacert "$CA_CERT" -H "Authorization: ApiKey $ES_API_KEY" -X DELETE "$ES_URL/$INDEX?ignore_unavailable=true" >/dev/null

curl -sS --cacert "$CA_CERT" -H "Authorization: ApiKey $ES_API_KEY" -H "Content-Type: application/json" -X PUT "$ES_URL/$INDEX?filter_path=acknowledged" -d '{"settings":{"number_of_shards":1,"number_of_replicas":0,"refresh_interval":"30s"}}'
echo

bulk_file=$(mktemp)
out_dir=$(mktemp -d)
trap 'rm -f "$bulk_file"; rm -rf "$out_dir"' EXIT

for i in $(seq 1 "$BATCH"); do
  printf '{"index":{"_index":"%s"}}\n' "$INDEX" >> "$bulk_file"
  printf '{"seq":%d,"message":"bulk-tuning"}\n' "$i" >> "$bulk_file"
done

payload_bytes=$(wc -c < "$bulk_file" | tr -d ' ')
export ES_URL ES_API_KEY CA_CERT bulk_file out_dir
start_ns=$(date +%s%N)

seq "$REQUESTS" | xargs -P "$CONCURRENCY" -I{} bash -c '
  curl -sS --cacert "$CA_CERT" -H "Authorization: ApiKey $ES_API_KEY" -H "Content-Type: application/x-ndjson" --data-binary @"$bulk_file" -o "$out_dir/{}.json" -w "%{http_code} %{time_total}\n" "$ES_URL/_bulk?filter_path=errors,items.*.status" > "$out_dir/{}.meta"
'

end_ns=$(date +%s%N)
successful=$({ grep -Eho '"status":2[0-9]{2}' "$out_dir"/*.json || true; } | wc -l | tr -d ' ')
item_429=$({ grep -ho '"status":429' "$out_dir"/*.json || true; } | wc -l | tr -d ' ')
request_429=$(awk '$1 == 429 {n++} END {print n+0}' "$out_dir"/*.meta)
elapsed_ms=$(( (end_ns - start_ns) / 1000000 ))
rank=$(( (REQUESTS * 95 + 99) / 100 ))
p95=$(awk '{print $2}' "$out_dir"/*.meta | sort -n | sed -n "${rank}p")

awk -v b="$BATCH" -v c="$CONCURRENCY" -v bytes="$payload_bytes" -v ok="$successful" -v r429="$request_429" -v i429="$item_429" -v ms="$elapsed_ms" -v p95="$p95" 'BEGIN {printf "batch=%d concurrency=%d payload_bytes=%d successful=%d throughput=%.0f docs/s p95_bulk_s=%s request429=%d item429=%d\n", b,c,bytes,ok,ok/(ms/1000),p95,r429,i429}'

预期输出

text
{"acknowledged":true}
batch=1000 concurrency=4 payload_bytes=<VALUE> successful=20000 throughput=<VALUE> docs/s p95_bulk_s=<VALUE> request429=0 item429=0

实际耗时、吞吐和 P95 会随硬件与文档变化。用同一脚本分别替换候选的 BATCH 与 CONCURRENCY,最终选最小的吞吐平台点和尚未出现持续排队或 429 的并发度,再用生产等价的分片、副本与查询负载复测。这样得到的参数才是容量边界内的工作点,而不是一次压测的峰值。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

选择 Bulk 批大小与并发度

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通