Java 后端 / 系统课时

调整线程池与连接池

调整线程池与连接池

本课将把 Web 请求线程、数据库连接和异步线程池放到同一容量模型中分析,给出一组可落地的 Spring Boot 3 配置,并通过 Actuator 指标验证是否出现排队、连接耗尽或异步任务堆积。

学习目标

  • 解释 Web 线程、数据库连接和异步任务之间的占用与排队关系
  • 使用有界线程池和连接池参数限制资源消耗
  • 根据繁忙线程、活跃连接、等待连接和队列长度定位瓶颈

先理解三个池如何相互制约

Tomcat 工作线程负责接收并执行同步 HTTP 请求;HikariCP 只在访问数据库期间借出连接;异步线程池负责 @Async 等后台任务。它们不是越大越好:Web 线程过多会制造更多并发数据库请求,连接池过大又可能压垮数据库。

Web 线程、数据库连接与异步线程池容量关系

当一个请求等待数据库连接时,它通常仍占用 Web 线程。若 200 个 Web 线程同时争抢 20 个连接,后续请求会在连接池和服务器队列中叠加等待。异步任务若再次访问数据库,也会和在线请求竞争同一个连接池。连接数可以先用估算式确定起点:

C≈Q×T×SC \approx Q \times T \times S

其中 QQ 是峰值数据库操作次数每秒,TT 是一次持有连接的平均秒数,SS 是用于抖动的安全系数。结果还必须受数据库允许连接数、实例数量和其他应用连接占用限制,最终以压测和生产指标校准。

配置有界容量

下面给出一组起始配置,不是通用最优值。示例假设单实例承担中等并发、数据库连接预算为 30,并为异步任务保留有界队列。

yaml
server:
  tomcat:
    threads:
      max: 120
      min-spare: 12
    accept-count: 100
    max-connections: 2000

spring:
  datasource:
    hikari:
      maximum-pool-size: 30
      minimum-idle: 10
      connection-timeout: 1000
      validation-timeout: 500
      max-lifetime: 1800000
  task:
    execution:
      thread-name-prefix: app-async-
      pool:
        core-size: 8
        max-size: 16
        queue-capacity: 200
        keep-alive: 60s
      shutdown:
        await-termination: true
        await-termination-period: 30s

management:
  endpoints:
    web:
      exposure:
        include: health,metrics,prometheus
  metrics:
    tags:
      application: order-service

connection-timeout 设为有限值后,连接耗尽会快速暴露,而不是让请求无限等待。异步队列必须有上限;无界队列会让延迟和内存占用持续增长,并使 max-size 很难真正生效。

若业务需要明确的拒绝策略,可自定义执行器。下面是片段示例,队列满且线程已到上限时使用 CallerRunsPolicy,让提交线程承担任务,以自然降低提交速度。

java
package com.example.order.config;

import java.util.concurrent.Executor;
import java.util.concurrent.ThreadPoolExecutor;

import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.annotation.EnableAsync;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;

@Configuration
@EnableAsync
public class AsyncPoolConfig {

    @Bean(name = "applicationTaskExecutor")
    public Executor applicationTaskExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(8);
        executor.setMaxPoolSize(16);
        executor.setQueueCapacity(200);
        executor.setThreadNamePrefix("app-async-");
        executor.setRejectedExecutionHandler(
                new ThreadPoolExecutor.CallerRunsPolicy());
        executor.setWaitForTasksToCompleteOnShutdown(true);
        executor.setAwaitTerminationSeconds(30);
        executor.initialize();
        return executor;
    }
}

使用该 Bean 时,应删除 spring.task.execution.pool 中重复的容量配置,避免维护两套来源。对必须快速响应的接口,不要盲目使用 CallerRunsPolicy,因为它会增加提交线程延迟;此时可以改为拒绝并返回可识别的错误。

按瓶颈顺序调整

先确认数据库是否已到安全上限,再调整应用连接池。若 hikaricp_connections_pending 持续大于零而数据库 CPU 不高,可能是连接池偏小或事务持有时间过长;若数据库 CPU、锁等待或慢 SQL 已经升高,继续扩大连接池只会加剧拥塞。

随后观察 Tomcat 繁忙线程和请求延迟。繁忙线程接近上限但连接等待不高,常见原因是外部 HTTP 调用慢、同步计算过重或阻塞 I/O;应先缩短超时、隔离下游或优化代码,而不是直接增加线程。

最后检查异步执行器。活跃线程达到上限且队列持续增长,说明消费能力低于提交速度。应减少任务耗时、拆分专用线程池、限制提交速率,或把长任务迁移到消息队列,不要只扩大队列隐藏问题。

用指标验证配置

启动应用并制造少量请求后执行:

bash
curl -s http://localhost:<PORT>/actuator/prometheus | grep -E '^(tomcat_threads_busy_threads|hikaricp_connections_active|hikaricp_connections_pending|executor_active_tasks|executor_queued_tasks)'

预期输出:

text
tomcat_threads_busy_threads{name="http-nio-<PORT>"} <BUSY_THREADS>
hikaricp_connections_active{pool="HikariPool-1"} <ACTIVE_CONNECTIONS>
hikaricp_connections_pending{pool="HikariPool-1"} <PENDING_CONNECTIONS>
executor_active_tasks{name="applicationTaskExecutor"} <ACTIVE_TASKS>
executor_queued_tasks{name="applicationTaskExecutor"} <QUEUED_TASKS>

实际标签、线程名和数值可能不同。健康状态不能代替容量指标:服务仍为 UP 时,也可能已经出现高排队和高尾延迟。调整参数后应在相同负载下比较吞吐量、P95/P99 延迟、错误率、连接等待和队列长度。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

调整线程池与连接池

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通