可观测性与稳定性 / 系统课时

日志为什么还需要做聚合

日志为什么还需要做聚合

逐条日志适合回答“这次请求发生了什么”,却很难回答“错误是不是突然变多了”。当排障目标从单个事件扩展到一段时间内的数量、分布和趋势时,就需要聚合把大量日志压缩成可以比较的统计结果。

学习目标

  • 区分逐条检索与聚合统计分别适合解决的问题
  • 理解日志聚合中的分桶与指标结果
  • 使用时间聚合观察错误日志的变化趋势

单条日志看细节,聚合看整体

假设一个服务每分钟产生数万条日志。搜索 ERROR 后逐条阅读,可以找到异常堆栈、请求 ID 和失败原因,但仅凭若干条命中结果,很难判断当前错误量是否异常。

聚合关注的不是“返回哪些文档”,而是从符合条件的文档中计算统计结果。常见问题包括:每 5 分钟有多少条错误日志、哪个服务报错最多、不同状态码分别出现多少次,以及某个延迟指标的平均值如何变化。

因此,检索和聚合不是互相替代的两种方案,而是排障的两个观察尺度。聚合先帮助发现异常时间段或异常维度,再通过普通查询下钻到具体日志,通常比从海量原始记录中人工寻找趋势更有效。

聚合先分组再统计

Elasticsearch 聚合中最常见的思路可以理解为“分桶”。例如按照 5 分钟划分时间桶,每条日志进入对应的时间段,每个桶的 doc_count 就能表示该时间段包含多少条符合条件的日志。

如果按 service.name、host.name 等离散字段分桶,就可以比较不同服务或主机的日志数量。还可以在桶内部继续计算平均值、最大值等指标,形成“先按维度分组,再对每组计算统计值”的结构。

观察一小时内的错误趋势

下面的查询只统计最近一小时 ERROR 日志,并按 5 分钟生成时间桶。size 设置为 0,表示当前目标是取得聚合结果,不需要同时返回原始日志文档。

json
POST logs-*/_search
{
  "size": 0,
  "query": {
    "bool": {
      "filter": [
        {
          "range": {
            "@timestamp": {
              "gte": "now-1h",
              "lte": "now"
            }
          }
        },
        {
          "term": {
            "log.level": "ERROR"
          }
        }
      ]
    }
  },
  "aggs": {
    "errors_over_time": {
      "date_histogram": {
        "field": "@timestamp",
        "fixed_interval": "5m",
        "min_doc_count": 0
      }
    }
  }
}

预期结果

text
HTTP 200
aggregations.errors_over_time.buckets 中按时间返回多个桶。
每个桶包含对应时间位置以及 doc_count。
doc_count 较高的桶表示该 5 分钟时间段内匹配到更多 ERROR 日志。
具体桶数量和计数取决于执行时间与实际日志数据。

这里的关键不是某个具体计数,而是连续时间桶之间的变化。如果平时每个桶只有少量错误,而某几个相邻桶的 doc_count 明显升高,就获得了一个值得继续下钻的故障时间窗口。

聚合结果不能替代原始日志

聚合会压缩信息。一个桶告诉你“这一段时间有多少条错误”,却不会直接解释每一条错误为什么发生。因此发现峰值之后,仍应把异常时间范围带回普通查询,查看具体 message、服务实例、请求标识和异常栈。

选择聚合字段时也要关注基数。对服务名、状态码这类有限集合做分桶通常容易解释;对请求 ID、随机标识等几乎每条日志都不同的字段进行大规模分桶,结果既难阅读,也可能增加聚合开销。terms 聚合默认还只返回排名靠前的若干桶,因此不能把默认结果误认为完整枚举。

日志分析的典型路径由此形成:先用聚合发现数量、分布或趋势上的异常,再缩小时间和维度范围,最后回到原始日志确认根因。逐条检索负责解释事件,聚合负责发现模式,两者结合才能同时看清细节与整体变化。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

日志为什么还需要做聚合

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通