Explique a diferença entre random forest e gradient boosting, e quando você escolheria cada um.

Um random forest treina muitas árvores profundas em paralelo, em amostras de bootstrap com subconjuntos aleatórios de features, e depois faz a média, o que reduz principalmente a variância. O gradient boosting treina árvores rasas em sequência, cada uma ajustando os erros residuais do conjunto até ali, o que reduz principalmente o viés. Boosting costuma ganhar em acurácia para dados tabulares, mas exige ajuste cuidadoso; forests são bem mais tolerantes já de saída.

Um forest cria muitas árvores profundas de forma independente, cada uma em uma amostra de bootstrap e cada uma considerando um subconjunto aleatório de features em cada divisão, e depois tira a média. As árvores individualmente sofrem overfitting e são descorrelacionadas, então a média mata a variância. O boosting tem o formato oposto: árvores rasas, construídas uma de cada vez, cada nova árvore ajustada aos erros que o conjunto ainda comete, então ele vai corroendo o viés. A consequência que as pessoas deixam passar é o que acontece conforme você adiciona árvores. Em um forest, mais árvores nunca atrapalha de verdade, só converge. No boosting, mais árvores eventualmente causa overfitting, e é por isso que a taxa de aprendizado e o early stopping importam tanto. Meu padrão em dados tabulares ainda é gradient boosting, normalmente LightGBM ou XGBoost, com taxa de aprendizado baixa e early stopping em um conjunto de validação, porque essa combinação ganhou de tudo o que eu já testei em problemas estruturados. Eu recorro a um forest quando quero uma baseline sólida em dez minutos com quase nenhum ajuste, ou quando quero estimativas out of bag sem separar um conjunto de validação à parte.