Como funciona a coleta de lixo, e quando ela vira um problema?

Um coletor de lixo acha objetos ainda alcançáveis a partir de raízes como a pilha e os globais, e recupera todo o resto. A maioria dos coletores modernos é geracional, construída sobre a observação de que a maioria dos objetos morre jovem, então eles coletam um berçário pequeno com frequência e a geração velha raramente. Vira problema quando os tempos de pausa comem seu orçamento de latência, quando a alocação supera a coleta, ou quando você vaza segurando referências que esqueceu.

O modelo mental é alcançabilidade. O coletor começa nas raízes, a pilha, os registradores e os globais, percorre tudo que é alcançável, e o que ele nunca alcançou é lixo. A maioria dos coletores é geracional porque a esmagadora maioria dos objetos morre quase imediatamente, então você varre um espaço jovem pequeno com frequência e toca o espaço velho raramente. É por isso que alocar um objeto de vida curta é quase de graça, e por que um cache de vida longa é o que sai caro. Isso vira problema de três jeitos. Pausas, se uma coleta stop the world cai dentro do seu orçamento de p99. Taxa de alocação, quando você produz lixo mais rápido do que o coletor recupera e o throughput desaba. E vazamentos, que num runtime gerenciado sempre significam que algo ainda segura uma referência, geralmente um mapa estático ou um listener que ninguém removeu. Quando fui atrás disso eu começo pelos logs de GC e observo a ocupação de heap depois de cada coleta. Se essa linha sobe ao longo de horas é vazamento, e aí é um heap dump para achar quem segura.