大数据与流处理 / 系统课时
设计可靠的性能基准测试
设计可靠的性能基准测试
性能优化只有在测试条件可重复时才有意义。数据规模、缓存冷热、并发度、后台任务和采样次数都会让 ClickHouse 延迟波动。本节建立一个最小基准流程,让“优化了 30%”变成可复验结论,而不是单次幸运结果。
学习目标
- 固定数据、查询、并发与缓存条件
- 用多次重复和分位数代替单次耗时
- 同时记录延迟、扫描量和资源指标
固定测试对象与输入
基准测试至少要固定表结构、数据快照、查询文本、参数范围和服务器配置。只要其中一个条件变化,就应该把结果视为另一组实验,而不是直接与旧结果比较。
还要明确测试的是冷缓存、热缓存还是混合场景。冷缓存更接近首次读取,热缓存更适合评估 CPU 与执行计划;两者可以都测,但不能混在同一统计分布里。
让查询重复执行并记录耗时
下面用 shell 连续执行同一查询 10 次,并输出 ClickHouse 客户端的执行时间。<HOST>、<USER> 等占位符替换为实际连接参数。
bash
# 固定同一条查询重复执行 10 次,避免用单次耗时下结论。
for i in $(seq 1 10); do
clickhouse-client --host <HOST> --user <USER> --query "SELECT count() FROM <DB>.<TABLE> WHERE event_time >= now() - INTERVAL 1 DAY" --time
done预期结果:
text
<VALUE>
<VALUE>
...--time 会在标准错误中输出每次执行耗时,具体数值会随环境变化。正式记录时应把每轮耗时保存为独立样本,并同时记录并发度与缓存状态。
用分位数而不是平均数做结论
平均值容易被少数极慢或极快样本拉动。交付优化结果时,至少同时给出中位数和高分位,例如 p50、p95;如果是高并发在线服务,还应观察吞吐与错误率。样本数太少时,p99 没有统计意义,不要为了指标好看强行报告。
同时记录扫描量与资源
只看延迟无法解释“为什么变快”。每组基准还应从 system.query_log 记录 read_rows、read_bytes、memory_usage,必要时补充 CPU、磁盘和网络指标。这样才能区分是数据裁剪改善、缓存命中、并行度变化,还是纯粹来自环境波动。
按自己的节奏,确认真正理解。