Como o CPython gerencia memória?

O CPython usa contagem de referências como mecanismo principal: todo objeto rastreia quantas referências apontam para ele, e é liberado imediatamente quando essa contagem chega a zero. Um coletor geracional de ciclos roda por cima para pegar ciclos de referência que a contagem sozinha não consegue liberar. A memória liberada por objetos pequenos normalmente volta para pools internos do alocador, não para o sistema operacional.

A contagem de referências faz a maior parte do trabalho. Todo objeto carrega uma contagem, ligar um nome incrementa, soltar um nome decrementa, e em zero o objeto é destruído na hora. Esse determinismo é o motivo de um arquivo fechar assim que a última referência some no CPython, embora eu não confiaria nisso em código feito para rodar em outras implementações. A contagem não consegue liberar ciclos, então um pai segurando um filho que segura o pai de volta nunca chega a zero. É isso que o coletor geracional trata, com três gerações, objetos jovens checados com mais frequência e sobreviventes promovidos. Num worker de vida longa que eu depurei, a memória subia constantemente e no fim era um cache segurando objetos com referências de volta mais um traceback de exceção guardado numa variável de módulo, que prendia frames inteiros. Snapshots do tracemalloc tirados com dez minutos de diferença apontaram direto para aquilo. Vale acrescentar que liberar objetos muitas vezes não devolve páginas para o sistema operacional, então um RSS alto e estável depois de um pico é normal e não um vazamento.