C / C++ / 系统课时

用调试工具检查系统程序

用调试工具检查系统程序

系统程序出现崩溃、内存越界或系统调用失败时,单看一条错误日志往往不够。本篇用一个可复现故障的小程序串联 GDB、strace 与 AddressSanitizer,分别观察调用栈、内核边界和内存错误,并建立可重复的排查顺序。

学习目标

  • 用 GDB 的回溯定位产生 SIGSEGV 的函数和源码位置。
  • 用 strace 识别失败的系统调用、参数和 errno 结果。
  • 用 AddressSanitizer 检查越界访问与未释放的堆内存。

先准备可复现故障

调试前先让故障可以稳定复现。下面的程序提供四种模式:crash 制造空指针写入,syscall 打开不存在的文件,overflow 触发堆越界,leak 故意丢失一块已分配内存的最后引用。

c
#define _POSIX_C_SOURCE 200809L

#include <fcntl.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>

static void crash_now(void) {
    /* 故意制造 SIGSEGV,供 GDB 回溯。 */
    volatile int *p = NULL;
    *p = 1;
}

static int failed_open(void) {
    /* 固定不存在的路径,便于 strace 稳定观察 ENOENT。 */
    int fd = open("/definitely-not-here/anystack.conf", O_RDONLY);
    if (fd == -1) {
        perror("open");
        return 2;
    }
    close(fd);
    return 0;
}

static int overflow(void) {
    char *buffer = malloc(8);
    if (buffer == NULL) {
        perror("malloc");
        return 1;
    }

    /* 从运行时取得长度,避免把问题只留在编译期诊断。 */
    const char *payload = getenv("PAYLOAD");
    if (payload == NULL) {
        payload = "0123456789ABCDEF";
    }

    memcpy(buffer, payload, strlen(payload) + 1);
    puts(buffer);
    free(buffer);
    return 0;
}

static int leak(void) {
    void *buffer = malloc(128);
    if (buffer == NULL) {
        perror("malloc");
        return 1;
    }

    memset(buffer, 0xAB, 128);
    fprintf(stderr, "allocated %p\n", buffer);

    /* 故意丢失最后一个引用而不 free,使泄漏可被检测。 */
    buffer = NULL;
    return 0;
}

int main(int argc, char **argv) {
    if (argc != 2) {
        fprintf(stderr, "usage: %s crash|syscall|overflow|leak\n", argv[0]);
        return 64;
    }

    if (strcmp(argv[1], "crash") == 0) {
        crash_now();
        return 0;
    }
    if (strcmp(argv[1], "syscall") == 0) {
        return failed_open();
    }
    if (strcmp(argv[1], "overflow") == 0) {
        return overflow();
    }
    if (strcmp(argv[1], "leak") == 0) {
        return leak();
    }

    fprintf(stderr, "unknown mode: %s\n", argv[1]);
    return 64;
}

预期结果

text
同一源码可通过不同命令行参数稳定触发四类故障,便于分别交给 GDB、strace 和 sanitizer 检查。

保存为 debug_target.c,先生成带调试符号且不优化的普通版本。这样 GDB 更容易把机器指令映射回源码。

bash
gcc -std=c11 -Wall -Wextra -g -O0 debug_target.c -o debug_target

预期结果

text
编译成功时通常没有终端输出,并生成 ./debug_target。

用 GDB 找崩溃位置

GDB 适合回答“程序在哪里崩了、调用链怎样到这里”。批处理方式便于把结果留在日志里,也避免每次手动输入命令。

bash
gdb -q -batch -ex run -ex bt --args ./debug_target crash

预期输出

text
Program received signal SIGSEGV, Segmentation fault.
<ADDR> in crash_now () at debug_target.c:<LINE>
#0  <ADDR> in crash_now () at debug_target.c:<LINE>
#1  <ADDR> in main (...) at debug_target.c:<LINE>

<ADDR> 与 <LINE> 会因编译器和源码布局不同而变化。真正要确认的是最上层故障帧为 crash_now,并且回溯能继续指向调用它的 main。若线上程序已被优化,变量可能被优化掉,调用栈也可能内联;因此复现版本通常保留 -g,必要时降低优化级别。

用 strace 看失败系统调用

当程序表现为“连接不上、文件打不开、权限被拒绝”时,strace 可以直接观察进程向内核发出的系统调用及返回值。下面只跟踪 openat,并过滤出目标路径和程序自己的错误信息。

bash
strace -e trace=openat ./debug_target syscall 2>&1 | grep -E 'anystack\.conf|open:'

预期输出

text
openat(AT_FDCWD, "/definitely-not-here/anystack.conf", O_RDONLY) = -1 ENOENT (No such file or directory)
open: No such file or directory

这两行把问题闭环了:程序确实请求了预期路径,内核返回 ENOENT,随后 perror 把同一错误打印出来。对 TCP 服务端排障时,可以把跟踪范围换成 socket、bind、listen、accept、recvfrom、sendto、close 等调用,先确认失败发生在哪个内核边界,再回到代码找原因。文件描述符泄漏也可沿同一思路检查:记录成功创建的描述符,再确认正常生命周期内是否出现对应的 close。

用 AddressSanitizer 找内存问题

AddressSanitizer 会在编译时插入检查逻辑,适合开发和测试环境定位越界、use-after-free 等问题。这里继续使用 -O0,让泄漏示例保留清晰的调试行为;生产环境通常不长期启用 sanitizer 构建。

bash
gcc -std=c11 -Wall -Wextra -g -O0 \
  -fsanitize=address -fno-omit-frame-pointer \
  debug_target.c -o debug_target_asan

预期结果

text
编译成功时通常没有终端输出,并生成 ./debug_target_asan。

先运行越界模式。PAYLOAD 长度超过 7 个字符后,再加结尾的 \0 就装不进 8 字节缓冲区。

bash
PAYLOAD=0123456789ABCDEF ./debug_target_asan overflow

预期输出

text
==<PID>==ERROR: AddressSanitizer: heap-buffer-overflow on address <ADDR>
WRITE of size 17 at <ADDR> thread T0
...
SUMMARY: AddressSanitizer: heap-buffer-overflow

再检查故意留下的堆内存。Linux 上常见的 GCC/Clang AddressSanitizer 运行时可通过 detect_leaks=1 启用退出时泄漏检查;不同工具链的报告措辞可能略有差异。

bash
ASAN_OPTIONS=detect_leaks=1 ./debug_target_asan leak

预期输出

text
allocated <ADDR>
==<PID>==ERROR: LeakSanitizer: detected memory leaks
Direct leak of 128 byte(s) in 1 object(s) allocated from:
...
SUMMARY: AddressSanitizer: 128 byte(s) leaked in 1 allocation(s).

<ADDR>、<PID> 和堆栈地址属于动态值,实际运行时会不同。若当前工具链没有集成 LeakSanitizer,越界检测仍然有效,但泄漏检查需要换用支持该能力的 sanitizer 运行时。

建立固定排查顺序

先稳定复现并记录输入,再按故障层次选工具:进程崩溃先看 GDB 调用栈;怀疑文件、网络、权限等内核交互时看 strace;怀疑越界、释放后使用或堆泄漏时,用带 sanitizer 的构建重新运行。

不要一开始同时打开所有工具。每次只回答一个问题,并把“现象、证据、修改、再次验证”连成闭环。对于并发 TCP 服务端,最有效的调试结果不是某条工具输出本身,而是能明确指出哪个线程、哪个系统调用或哪次内存访问首先偏离了预期。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

用调试工具检查系统程序

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通