O marketing vai rodar uma campanha na sexta que pode trazer vinte vezes o tráfego normal. Como você se prepara?

Faça teste de carga contra um modelo realista do tráfego da campanha para achar o gargalo real, que normalmente é o banco de dados ou uma dependência de terceiro e não a camada de aplicação. Aumente a capacidade e os limites de conta com antecedência, já que o autoscaling reage devagar demais para um pico, aqueça caches e pools de conexão, e coloque rate limiting e degradação graciosa para que a sobrecarga descarte carga em vez de derrubar tudo. Combine o que você vai desligar se der errado.

Primeiro eu quero o formato, não só o múltiplo. Vinte vezes espalhado ao longo de um dia é um problema diferente de vinte vezes chegando em noventa segundos quando um e-mail dispara. Depois eu faço teste de carga com uma mistura realista de requisições contra um ambiente do tamanho da produção, porque o gargalo quase nunca é a camada web, é conexão de banco, um lock em uma linha quente, ou uma API de terceiro com um rate limit próprio que a gente não controla. O que o teste revelar é corrigido ou ganha capacidade. Antes do evento eu escalo manualmente em vez de confiar no autoscaling, porque escalar reage com vários minutos de atraso e a essa altura o pico já passou ou o site já caiu, e eu checo as cotas no nível da conta, porque essa é uma parede clássica de bater no pior momento. Caches e pools de conexão são aquecidos. Depois o plano de degradação: rate limit por cliente, fazer funcionalidades não essenciais como recomendações falharem de forma suave, e combinar antes o que a gente desliga para proteger o checkout. E alguém fica observando ao vivo, com o caminho de rollback já acordado.