可观测性与稳定性 / 系统课时

容器日志采集路径怎么设计

容器日志采集路径怎么设计

容器会创建、重建和删除,直接把 Filebeat 绑在某个容器内部或依赖临时容器 ID,容易造成日志断档。本节从日志落盘位置、容器元数据和生命周期出发,设计一条宿主机统一采集、按容器识别并可持续追踪的链路。

学习目标

  • 理解容器日志文件与容器生命周期之间的关系
  • 设计不依赖临时容器 ID 的 Filebeat 采集路径
  • 验证容器重建后 Filebeat 仍能发现并补充元数据

先区分容器和日志文件

以 Docker 默认的 json-file 日志驱动为例,应用写向标准输出和标准错误后,Docker 在宿主机保存日志文件。常见 Linux 安装中,其路径形态为 /var/lib/docker/containers/<ID>/<ID>-json.log。这里的 <ID> 是容器 ID,容器重建后通常会变化,因此不能把某个具体 ID 写死在采集配置中。

容器日志采集还涉及三个持续变化的对象:应用容器产生输出,Docker 在宿主机维护日志文件,Filebeat 发现文件并补充容器元数据。把这三者分开理解,才能避免把采集器错误地绑定到短生命周期容器。

容器日志从应用到 Filebeat 的采集路径

用稳定入口覆盖动态容器

在宿主机部署 Filebeat 时,可以让 filestream 扫描所有 Docker JSON 日志文件,再使用 container parser 解析 Docker 日志封装。下面是片段示例,依赖 Filebeat 已安装且进程具有读取 Docker 日志目录的权限。

yaml
filebeat.inputs:
  - type: filestream
    id: docker-containers
    paths:
      - /var/lib/docker/containers/*/*-json.log
    parsers:
      - container:
          stream: all
          format: docker

processors:
  - add_docker_metadata:
      host: unix:///var/run/docker.sock

这段配置的关键不是记住某个容器文件名,而是让通配路径覆盖当前及后续出现的容器日志。add_docker_metadata 再通过 Docker API 为事件补充容器相关信息。实际输出字段还受 Filebeat 版本、其他 processor 和输出端配置影响。

验证配置语法可以执行:

bash
filebeat test config -e

预期输出:

text
Config OK

若 Filebeat 运行在容器中,不能直接假设它能看到宿主机的 /var/lib/docker/containers 和 Docker Socket;需要显式只读挂载相应路径,并控制访问权限。

生命周期变化时会发生什么

容器重启与容器重建不是一回事。普通重启通常仍是同一个容器,日志文件身份基本不变;删除旧容器并创建新容器时会产生新的容器 ID 和日志路径。采集设计因此应依赖目录模式和文件身份跟踪,而不是业务人员手工维护 ID 列表。

日志轮转也必须纳入设计。Docker 可以轮转 json-file 日志;Filebeat 则负责持续发现和读取文件。生产环境不要让应用、Docker 和 Filebeat同时用互不协调的方式修改同一个日志文件,否则可能出现重复、遗漏或磁盘占用失控。

用元数据代替路径表达业务身份

文件路径适合解决“从哪里读”,却不适合表达“这是谁的日志”。容器 ID 会变,而容器名称、镜像信息以及编排系统提供的标签更适合用于检索和路由。因此应把采集路径和业务身份分开:路径负责可靠发现,元数据负责分类。

可以先确认 Docker 当前使用的日志驱动:

bash
docker info --format '{{.LoggingDriver}}'

预期输出在默认 json-file 场景下为:

text
json-file

随后创建测试容器、产生一条日志并删除重建,再观察 Filebeat 是否能发现新日志文件。容器 ID、时间和实际文件路径属于动态值,验证时应以现场值为准。

稳定的容器日志采集链路最终应满足三个条件:采集入口不依赖具体容器 ID,容器重建后新文件能够自动进入采集范围,事件能够通过元数据重新获得可检索的业务身份。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

容器日志采集路径怎么设计

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通