Go / 系统课时

区分连接超时和请求超时

区分连接超时和请求超时

“连不上”和“连上后等不到结果”是两类故障,应该使用不同的时间预算。本节把建立连接、发送请求、等待业务结果拆成独立阶段,并用一个本地 TCP 服务验证:连接可以立即成功,但请求仍然会因为业务响应过慢而超时。

学习目标

  • 区分连接超时、请求超时与服务端业务超时保护的对象
  • 为连接建立、请求发送和等待响应分配清晰的时间边界
  • 用 net.Dialer、context 与连接 Deadline 组合出可验证的超时策略

三个超时边界不是一回事

连接超时只覆盖“从没有连接到得到可用连接”这一段,常用 net.Dialer.Timeout 或 DialContext 的 Context Deadline 控制。TCP 已经建立后,连接超时就完成使命,不能继续保护后面的协议交互。

请求超时通常覆盖“从开始发送请求到拿到完整响应”的整体预算。原始 TCP 连接没有自动理解请求生命周期,因此需要把请求 Context 的截止时间映射到 SetWriteDeadline 和 SetReadDeadline,或者在更高层协议客户端中使用其原生超时能力。

服务端业务超时保护的是处理函数内部工作,例如数据库、下游 RPC 或计算任务。它应该由服务端自己的 Context 控制,并尽量早于客户端请求预算到期,以便服务端有机会返回明确错误,而不是等客户端先断开。

连接超时、请求超时与业务超时的边界

用本地服务器观察请求超时

下面的服务端会立即接受连接,但收到 PING 后故意等待 300ms 才响应。客户端连接预算是 100ms,请求预算是 150ms,因此建立连接成功,写请求也成功,最终在等待响应时触发请求 Deadline。

go
package main

import (
	"bufio"
	"context"
	"errors"
	"fmt"
	"net"
	"os"
	"time"
)

func startServer() (net.Listener, error) {
	ln, err := net.Listen("tcp", "127.0.0.1:0")
	if err != nil {
		return nil, err
	}

	go func() {
		conn, err := ln.Accept()
		if err != nil {
			return
		}
		defer conn.Close()

		reader := bufio.NewReader(conn)
		if _, err := reader.ReadString('\n'); err != nil {
			return
		}

		// 模拟耗时业务,故意超过客户端的 150ms 请求预算。
		time.Sleep(300 * time.Millisecond)
		_, _ = fmt.Fprintln(conn, "OK")
	}()

	return ln, nil
}

func main() {
	ln, err := startServer()
	if err != nil {
		panic(err)
	}
	defer ln.Close()

	connectCtx, cancelConnect := context.WithTimeout(context.Background(), 500*time.Millisecond)
	defer cancelConnect()

	dialer := net.Dialer{Timeout: 100 * time.Millisecond}
	conn, err := dialer.DialContext(connectCtx, "tcp", ln.Addr().String())
	if err != nil {
		fmt.Println("connect: failed")
		return
	}
	defer conn.Close()
	fmt.Println("connect: ok")

	requestCtx, cancelRequest := context.WithTimeout(context.Background(), 150*time.Millisecond)
	defer cancelRequest()

	deadline, _ := requestCtx.Deadline()
	if err := conn.SetWriteDeadline(deadline); err != nil {
		panic(err)
	}

	if _, err := fmt.Fprintln(conn, "PING"); err != nil {
		fmt.Println("write: failed")
		return
	}
	fmt.Println("write: ok")

	if err := conn.SetReadDeadline(deadline); err != nil {
		panic(err)
	}

	_, err = bufio.NewReader(conn).ReadString('\n')
	fmt.Println("request timed out:", errors.Is(err, os.ErrDeadlineExceeded))
}

预期输出

text
connect: ok
write: ok
request timed out: true

这里 Dialer.Timeout 是连接阶段的上限,而 connectCtx 还提供了外层取消能力;两者同时存在时,实际连接等待不会超过更早到期的那个边界。连接建立后,新建的 requestCtx 才开始计算请求预算,因此可以明确看出两个超时不是同一个计时器。

如何给三层边界分配预算

不要把所有阶段都设成相同的 1 秒。更实用的做法是从用户可接受的总延迟向内拆预算,并给上层留出处理和重试空间。

阶段 主要保护对象 常见控制方式 设计重点
建立连接 DNS、TCP 握手、路由不可达 net.Dialer.Timeout、DialContext 较短,失败后可快速切换地址或重试
请求发送与等待响应 套接字写入、服务端响应等待 请求 Context + SetWriteDeadline / SetReadDeadline 共享一个整体截止时间,避免每阶段重新拿满预算
服务端业务处理 数据库、下游 RPC、计算 服务端 context.WithTimeout 通常比客户端请求预算更短,留出返回错误的时间

如果一个请求总预算只有 800ms,就不应先允许连接建立等待 800ms,再允许业务响应继续等待 800ms。各阶段预算必须服务于同一个端到端目标,否则名义上“每层都有超时”,实际总延迟仍可能被层层放大。

超时后的连接与错误处理

连接阶段超时意味着当前连接根本没有建立,通常可以根据幂等性、地址列表和重试策略决定是否重新拨号。请求阶段超时则更复杂:请求可能尚未发出,也可能已经被服务端接收并执行,只是响应没有及时回来。

因此,发生请求超时后不要默认“服务端什么都没做”。涉及扣款、写数据库、创建资源等操作时,需要协议级请求 ID、幂等键或结果查询机制来处理不确定状态。对于简单的一问一答 TCP 协议,如果超时后无法确认读写边界,关闭连接并重新建立通常比继续复用更安全。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

区分连接超时和请求超时

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通