Comment fonctionne le ramasse-miettes, et quand devient-il un problème ?

Un ramasse-miettes trouve les objets encore atteignables depuis les racines comme la pile et les globales, et récupère tout le reste. La plupart des collecteurs modernes sont générationnels, bâtis sur l'observation que la plupart des objets meurent jeunes, donc ils collectent souvent une petite pouponnière et rarement l'ancienne génération. Ça devient un problème quand les temps de pause mangent votre budget de latence, quand l'allocation dépasse la collecte, ou quand vous fuyez en gardant des références oubliées.

Le modèle mental, c'est l'atteignabilité. Le collecteur part des racines, la pile, les registres et les globales, parcourt tout ce qui est atteignable, et tout ce qu'il n'a jamais atteint est un déchet. La plupart des collecteurs sont générationnels parce que l'immense majorité des objets meurent presque immédiatement, donc on balaie souvent un petit espace jeune et on touche rarement l'espace ancien. C'est pour ça qu'allouer un objet à courte vie est presque gratuit, et qu'un cache à longue vie est la chose coûteuse. Ça devient un problème de trois façons. Les pauses, si une collecte stop the world tombe dans votre budget de p99. Le taux d'allocation, où vous produisez des déchets plus vite que le collecteur ne les récupère et le débit s'écroule. Et les fuites, qui dans un runtime managé veulent toujours dire que quelque chose tient encore une référence, en général une map statique ou un écouteur que personne n'a retiré. Quand j'ai chassé ça, je commence par les logs de GC et je regarde l'occupation du tas après chaque collecte. Si cette ligne monte sur plusieurs heures, c'est une fuite, et là c'est un dump de tas pour trouver qui la retient.