Java 后端 / 系统课时
调整线程池与连接池
调整线程池与连接池
本课将把 Web 请求线程、数据库连接和异步线程池放到同一容量模型中分析,给出一组可落地的 Spring Boot 3 配置,并通过 Actuator 指标验证是否出现排队、连接耗尽或异步任务堆积。
学习目标
- 解释 Web 线程、数据库连接和异步任务之间的占用与排队关系
- 使用有界线程池和连接池参数限制资源消耗
- 根据繁忙线程、活跃连接、等待连接和队列长度定位瓶颈
先理解三个池如何相互制约
Tomcat 工作线程负责接收并执行同步 HTTP 请求;HikariCP 只在访问数据库期间借出连接;异步线程池负责 @Async 等后台任务。它们不是越大越好:Web 线程过多会制造更多并发数据库请求,连接池过大又可能压垮数据库。

当一个请求等待数据库连接时,它通常仍占用 Web 线程。若 200 个 Web 线程同时争抢 20 个连接,后续请求会在连接池和服务器队列中叠加等待。异步任务若再次访问数据库,也会和在线请求竞争同一个连接池。连接数可以先用估算式确定起点:
其中 是峰值数据库操作次数每秒, 是一次持有连接的平均秒数, 是用于抖动的安全系数。结果还必须受数据库允许连接数、实例数量和其他应用连接占用限制,最终以压测和生产指标校准。
配置有界容量
下面给出一组起始配置,不是通用最优值。示例假设单实例承担中等并发、数据库连接预算为 30,并为异步任务保留有界队列。
server:
tomcat:
threads:
max: 120
min-spare: 12
accept-count: 100
max-connections: 2000
spring:
datasource:
hikari:
maximum-pool-size: 30
minimum-idle: 10
connection-timeout: 1000
validation-timeout: 500
max-lifetime: 1800000
task:
execution:
thread-name-prefix: app-async-
pool:
core-size: 8
max-size: 16
queue-capacity: 200
keep-alive: 60s
shutdown:
await-termination: true
await-termination-period: 30s
management:
endpoints:
web:
exposure:
include: health,metrics,prometheus
metrics:
tags:
application: order-serviceconnection-timeout 设为有限值后,连接耗尽会快速暴露,而不是让请求无限等待。异步队列必须有上限;无界队列会让延迟和内存占用持续增长,并使 max-size 很难真正生效。
若业务需要明确的拒绝策略,可自定义执行器。下面是片段示例,队列满且线程已到上限时使用 CallerRunsPolicy,让提交线程承担任务,以自然降低提交速度。
package com.example.order.config;
import java.util.concurrent.Executor;
import java.util.concurrent.ThreadPoolExecutor;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.annotation.EnableAsync;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;
@Configuration
@EnableAsync
public class AsyncPoolConfig {
@Bean(name = "applicationTaskExecutor")
public Executor applicationTaskExecutor() {
ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
executor.setCorePoolSize(8);
executor.setMaxPoolSize(16);
executor.setQueueCapacity(200);
executor.setThreadNamePrefix("app-async-");
executor.setRejectedExecutionHandler(
new ThreadPoolExecutor.CallerRunsPolicy());
executor.setWaitForTasksToCompleteOnShutdown(true);
executor.setAwaitTerminationSeconds(30);
executor.initialize();
return executor;
}
}使用该 Bean 时,应删除 spring.task.execution.pool 中重复的容量配置,避免维护两套来源。对必须快速响应的接口,不要盲目使用 CallerRunsPolicy,因为它会增加提交线程延迟;此时可以改为拒绝并返回可识别的错误。
按瓶颈顺序调整
先确认数据库是否已到安全上限,再调整应用连接池。若 hikaricp_connections_pending 持续大于零而数据库 CPU 不高,可能是连接池偏小或事务持有时间过长;若数据库 CPU、锁等待或慢 SQL 已经升高,继续扩大连接池只会加剧拥塞。
随后观察 Tomcat 繁忙线程和请求延迟。繁忙线程接近上限但连接等待不高,常见原因是外部 HTTP 调用慢、同步计算过重或阻塞 I/O;应先缩短超时、隔离下游或优化代码,而不是直接增加线程。
最后检查异步执行器。活跃线程达到上限且队列持续增长,说明消费能力低于提交速度。应减少任务耗时、拆分专用线程池、限制提交速率,或把长任务迁移到消息队列,不要只扩大队列隐藏问题。
用指标验证配置
启动应用并制造少量请求后执行:
curl -s http://localhost:<PORT>/actuator/prometheus | grep -E '^(tomcat_threads_busy_threads|hikaricp_connections_active|hikaricp_connections_pending|executor_active_tasks|executor_queued_tasks)'预期输出:
tomcat_threads_busy_threads{name="http-nio-<PORT>"} <BUSY_THREADS>
hikaricp_connections_active{pool="HikariPool-1"} <ACTIVE_CONNECTIONS>
hikaricp_connections_pending{pool="HikariPool-1"} <PENDING_CONNECTIONS>
executor_active_tasks{name="applicationTaskExecutor"} <ACTIVE_TASKS>
executor_queued_tasks{name="applicationTaskExecutor"} <QUEUED_TASKS>实际标签、线程名和数值可能不同。健康状态不能代替容量指标:服务仍为 UP 时,也可能已经出现高排队和高尾延迟。调整参数后应在相同负载下比较吞吐量、P95/P99 延迟、错误率、连接等待和队列长度。