O que causa cold starts em funções serverless e como você lida com isso?

Um cold start acontece quando uma requisição chega sem nenhum ambiente de execução quente disponível, então a plataforma precisa provisionar um, baixar e descompactar o seu código, iniciar o runtime e rodar a sua inicialização antes de atender a requisição. Reduza encolhendo o pacote, escolhendo um runtime mais leve, tirando a preparação pesada do caminho da requisição e reutilizando conexões. Para caminhos sensíveis a latência, use concorrência provisionada em vez de gambiarras de aquecimento.

Um cold start é a plataforma construindo um novo ambiente de execução porque não tem um quente livre. Isso significa provisioná-lo, baixar e descompactar o seu artefato, subir o runtime e rodar o seu código de inicialização antes de o seu handler sequer ser chamado. As partes que eu controlo são o tamanho do artefato e a inicialização, então eu corto dependências com força, porque um pacote gordo adiciona tempo real a todo cold start, e eu movo coisas como carga de configuração e construção de cliente para fora do handler, para rodarem uma vez por ambiente em vez de uma vez por requisição e serem reaproveitadas em invocações quentes. A escolha do runtime também importa; um runtime leve inicia muito mais rápido que uma máquina virtual pesada, a não ser que eu use o recurso de snapshot da plataforma. Quando o caminho é voltado ao usuário e a cauda de latência importa, eu paro de otimizar e compro concorrência provisionada para a linha de base esperada, porque isso mantém os ambientes inicializados. O que eu não faço mais é ficar pingando funções em um timer para mantê-las quentes; é pouco confiável em qualquer concorrência real. Para trabalho dirigido por fila ou em lote, eu normalmente só aceito.