虚拟线程让接口更慢了:Java 21 Loom 一次 pinning 事故的现场复盘
虚拟线程进入 JDK 21 之后,几乎每个后端群里都在转发同一段话:“用虚拟线程,百万并发so easy,Tomcat 都可以扔了。”
我信了。真信了。把一个同步阻塞的订单查询接口改成虚拟线程执行器,压测脚本一跑,QPS 确实翻倍了,内存也确实没炸。然后我看了一眼 p99——从 8 毫秒爬到了 400 毫秒。
这篇文章不打算再讲一遍“虚拟线程是什么”,我想讲的是:它在什么地方会把你坑到姥姥家,以及怎么把坑填上。顺便吐槽一下那些把 Loom 吹成银弹的营销稿——写那些稿子的人,大概率没在生产环境里被它坑过。
一、先搞清楚它到底怎么跑的
虚拟线程不是操作系统线程,是 JVM 调度的用户态轻量线程。它跑在一组叫 carrier thread(载体线程)上,载体线程本质上还是你平时那些平台线程。
关键机制只有一句话:
虚拟线程执行到阻塞点(Socket 读、锁等待、sleep)时,会把自己 park 掉,把载体线程让出来给别的虚拟线程用;等到可运行了再 unpark 回来。
所以你会看到这组数字关系:
- 平台线程:操作系统级,几千个就开始吃内存,上限受限于操作系统。
- 载体线程:默认数量 = CPU 核数,它们是真正干活的。
- 虚拟线程:可以有百万个,因为它们绝大多数时间都躺在堆里,不占 OS 资源。
这意味着一个反直觉的事实:虚拟线程“轻”的前提,是你写的代码大部分时间都在阻塞。如果你的任务是纯 CPU 计算,把 10 万个虚拟线程扔进只有 8 核的机器里,它一样会跑得比同步线程还难看——只不过这次是 CPU 上下文切换的开销被放大了。
二、坑一:pinning,让虚拟线程“钉死”在载体线程上
这是最经典、也最容易让人血压升高的一坑。
理想情况下,虚拟线程阻塞会让出载体线程。但如果阻塞发生在 synchronized 块里,或者调用了本地方法(native method)、JNI 调用,JVM 就没法把虚拟线程从载体线程上摘下来——它只能把整个载体线程一起挂起。
结果就是:一个 synchronized 锁 + 一次数据库查询 = 一个载体线程被长期占住。载体线程池默认只有 CPU 核数(比如 8 个),于是 8 个虚拟线程堵在锁上,整个服务直接僵成一块石头。
// 典型的 pinning 现场
public OrderVO queryOrder(Long id) {
synchronized (lockMap.get(id)) { // ← 这里
return jdbcTemplate.queryForObject(
"select * from orders where id = ?", ORDER_MAPPER, id); // ← 阻塞在这里,载体线程被钉住
}
}
怎么确认?你有两个工具:
# 打印所有被 pin 的虚拟线程栈
java -Djdk.tracePinnedThreads=full -jar app.jar
# 满版本还会输出持锁的 monitor 信息,能直接看到是谁在占坑
修法也很直接:把 synchronized 换成 ReentrantLock。ReentrantLock 是我们自己的类,JVM 知道它不涉及 monitor pinning,所以阻塞时载体线程可以被释放。
private final ConcurrentHashMap<Long, ReentrantLock> locks = new ConcurrentHashMap<>();
public OrderVO queryOrder(Long id) {
ReentrantLock lock = locks.computeIfAbsent(id, k -> new ReentrantLock());
lock.lock();
try {
return jdbcTemplate.queryForObject(
"select * from orders where id = ?", ORDER_MAPPER, id);
} finally {
lock.unlock();
}
}
注意这里还有个新坑:locks map 只增不减,订单号多了就是内存泄漏。真实项目里要么用带 TTL 的缓存,要么干脆换成分段锁(Striped),没必要为每个 ID 开一把锁。
三、坑二:ThreadLocal 在百万线程下会变成内存炸弹
ThreadLocal 本身没问题,问题是它的清理逻辑绑在线程对象上。虚拟线程一旦数量上到几十万、上百万,每个线程挂着的 ThreadLocal 副本都会被复制一份——内存占用是数量级级别的放大。
private static final ThreadLocal<UserContext> CURRENT = new ThreadLocal<>();
// 虚拟线程执行器里跑百万级任务时,UserContext 的副本数量 = 虚拟线程数量
CURRENT.set(new UserContext());
try {
doBusiness();
} finally {
CURRENT.remove(); // ← 千万别省,这是保命的
}
还有更隐蔽的一种:用 InheritableThreadLocal 做链路透传。虚拟线程的继承语义和平台线程并不完全一致,而在异步场景下,“子线程”可能压根不是同一个请求链上的。
我的建议很粗暴:在以虚拟线程为主的服务里,链路上下文用显式参数传递,别用 ThreadLocal。嫌参数啰嗦,那就用 ScopedValue(Java 21 预览特性,语义上更接近“作用域内的只读值”)。
四、坑三:你以为你有了百万并发,其实你只有 10 个数据库连接
这是我最想吐槽的一点。
把一个接口从同步线程池换成虚拟线程执行器后,请求侧的并发能力看起来暴涨:原来线程池 200 个线程,最多 200 个请求同时打到下游;现在虚拟线程一放开,几万个请求同时扑向数据库。
然后呢?
// 数据库连接池:10 个连接
// 虚拟线程:50000 个
// 结果:49990 个虚拟线程在池子门口排队,纯纯的假并发
你以为你扩容了,其实你只是把排队从 JVM 的线程队列挪到了连接池的队列——而且这个队列的等待时间,会以 400 毫秒的 p99 直接砸到你脸上。数据库连接池被淹没的那几秒,主线程还在拼命往里塞请求,属于典型的级联故障放大器。
虚拟线程的正确姿势是在入口做并发闸门,把并发度控制在“下游能承受”的范围,而不是“线程池能开多大”:
// 闸门:最多 64 个请求同时访问数据库
private final Semaphore dbGate = new Semaphore(64);
public CompletableFuture<OrderVO> queryOrderAsync(Long id) {
return CompletableFuture.supplyAsync(() -> {
try {
dbGate.acquire();
return queryOrder(id);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
throw new RuntimeException(e);
} finally {
dbGate.release();
}
}, virtualThreadExecutor);
}
顺带一句:数据库连接池本身不需要跟着换成虚拟线程。连接池的意义就是限制并发,改了它等于把限流功能自己拆了。虚拟线程 + 传统有界连接池,是目前最稳的组合。
五、坑四:出问题时,你的线程 dump 里什么都看不到
凌晨被电话叫醒,你 jstack 一下,发现只有十几个平台线程,状态还都挺正常。“那我的请求卡在哪了?”
这是虚拟线程排查最恶心的地方:传统的线程栈工具默认只展示载体线程,而真正的阻塞现场藏在虚拟线程里。
# JDK 21 可以导出包含虚拟线程的 dump
jcmd <pid> Thread.dump_to_file -format=json /tmp/threads.json
# 打印所有虚拟线程状态
jcmd <pid> Thread.dump_to_file -format=plain /tmp/threads.txt
另外,虚拟线程的调度是协作式的——它靠明确的阻塞点让出载体线程。如果你的代码里藏着一段纯 CPU 的死循环,它不会主动 yield,载体线程会被它一个人占住,其他虚拟线程全部饿死。这在平台线程模型里不会发生(操作系统会抢占),在虚拟线程里就是实打实的坑。
六、落地清单
如果你真打算在生产环境引入虚拟线程,下面这几条按顺序过一遍:
- 先测 CPU 密集型任务。你的接口如果大部分是序列化、加密、加解密,虚拟线程带来的收益可能远小于线程切换的损耗。
- 全局搜一遍
synchronized。只要它包住了任何阻塞调用,就是一颗定时炸弹。上线前开-Djdk.tracePinnedThreads=full跑一轮压测,看输出里有没有VirtualThread的 pin 事件。 - ThreadLocal 全部加
remove(),或者干脆换成显式传参。 - 下游加闸门。数据库、缓存、第三方 API,凡是稀缺资源都要有并发上限,用
Semaphore或者信号量化的限流中间件。 - 把监控接入虚拟线程指标。Micrometer 的
reactor与jvm.threads.live不再反映真实并发量,你需要额外采集虚拟线程的活跃数与延迟分布。 - 压测要压到 p99,不能只看 QPS。虚拟线程最常见的“虚假繁荣”就是平均延迟很好、尾延迟崩坏。
七、结语
虚拟线程是 Java 后端十年来最有价值的一次演进,它把“线程很贵”这个历史包袱彻底卸下来了。但它不是银弹,它是一把更锋利的刀——刀越锋利,你越得知道握哪儿。
它能扩展的,是你代码里的并发结构;它不能扩展的,是物理世界的稀缺资源:数据库连接、下游 QPS 配额、CPU 周期。搞混这两件事的人,会收获一个又便宜又慢的服务。
至于那些说“Java 21 + 虚拟线程,Tomcat 可以扔了”的人——行吧,你可以扔的是 Tomcat 的线程池,不是 Tomcat。
代码留着,别删。半夜三点,只有它能救你。