Wie funktioniert Garbage Collection, und wann wird sie zum Problem?

Ein Garbage Collector findet Objekte, die von Roots wie Stack und Globals aus noch erreichbar sind, und gibt alles andere frei. Die meisten modernen Collectors sind generational, gebaut auf der Beobachtung, dass die meisten Objekte jung sterben, sie sammeln also häufig eine kleine Nursery und selten die alte Generation. Zum Problem wird es, wenn Pausenzeiten dein Latenzbudget auffressen, wenn Allokation die Collection überholt, oder wenn du leakst, weil du Referenzen hältst, die du vergessen hast.

Das mentale Modell ist Erreichbarkeit. Der Collector startet an den Roots, also Stack, Registern und Globals, läuft alles Erreichbare ab, und was er nie erreicht hat, ist Müll. Die meisten Collectors sind generational, weil die große Mehrheit der Objekte fast sofort stirbt, du scannst also häufig einen kleinen jungen Bereich und fasst den alten selten an. Deshalb ist es fast gratis, ein kurzlebiges Objekt zu allokieren, und deshalb ist ein langlebiger Cache das Teure. Zum Problem wird es auf drei Arten. Pausen, wenn eine Stop-the-World-Collection in dein p99-Budget fällt. Allokationsrate, wenn du schneller Müll produzierst, als der Collector ihn einsammelt, und der Durchsatz zusammenbricht. Und Leaks, die in einer Managed Runtime immer heißen, dass irgendetwas noch eine Referenz hält, meistens eine statische Map oder ein Listener, den niemand entfernt hat. Wenn ich dem nachgehe, fange ich mit GC-Logs an und beobachte die Heap-Belegung nach jeder Collection. Steigt diese Linie über Stunden, ist es ein Leak, und dann geht es mit einem Heap Dump auf die Suche nach dem Halter.