O que são virtual threads e como elas mudam a forma como você escreve código de servidor?

Virtual threads, finais desde o Java 21, são threads leves escalonadas pela JVM sobre um pool pequeno de carrier threads. Quando uma bloqueia em I/O, ela desmonta e libera o carrier, então um milhão de tarefas concorrentes custa pouco. Na prática, você volta a escrever código bloqueante simples e usa uma thread por requisição em vez de um executor com pool fixo, e nunca faz pool de virtual threads porque criar uma é barato.

Uma virtual thread é escalonada pela JVM e não pelo sistema operacional, então ela custa algumas centenas de bytes em vez de um megabyte de stack. Quando ela bloqueia em uma leitura de socket, ela desmonta da carrier platform thread e o carrier vai rodar outra coisa, depois ela remonta quando o dado chega. Isso significa que o velho motivo para fazer pool de threads desaparece. Eu uso um executor que cria uma virtual thread por tarefa, e o código continua sendo código bloqueante simples, muito mais fácil de ler e depurar do que uma cadeia de callbacks. Duas coisas que eu mantenho em mente. Primeiro, elas não fazem nada por trabalho CPU bound, já que você continua tendo só os núcleos que tem; o ganho está no atendimento de requisições pesadas em I/O. Segundo, elas removem o limite acidental de concorrência que um pool fixo me dava, então se eu estou chamando um banco com um pool de cinquenta conexões, eu coloco um semáforo ou o próprio pool na frente, senão dez mil virtual threads caem em cima dele de uma vez.