Qu'est-ce qui provoque les démarrages à froid dans les fonctions serverless et comment les traitez-vous ?

Un démarrage à froid arrive quand une requête se présente sans environnement d'exécution chaud disponible, donc la plateforme doit en provisionner un, télécharger et décompresser votre code, démarrer le runtime et exécuter votre initialisation avant de traiter la requête. Réduisez-le en allégeant le paquet, en choisissant un runtime plus léger, en sortant la préparation lourde du chemin de la requête et en réutilisant les connexions. Pour les chemins sensibles à la latence, utilisez la concurrence provisionnée plutôt que des bricolages de maintien au chaud.

Un démarrage à froid, c'est la plateforme qui construit un nouvel environnement d'exécution parce qu'il n'y en a pas de chaud disponible. Cela veut dire le provisionner, récupérer et décompresser votre artefact, démarrer le runtime et exécuter votre code d'initialisation avant même que votre handler soit appelé. Ce que je contrôle, c'est la taille de l'artefact et l'initialisation, donc je taille dans les dépendances sans pitié, parce qu'un gros paquet ajoute du temps réel à chaque démarrage à froid, et je sors des choses comme le chargement de configuration et la construction des clients hors du handler pour qu'elles tournent une fois par environnement plutôt qu'une fois par requête et soient réutilisées lors des invocations chaudes. Le choix du runtime compte aussi ; un runtime léger démarre bien plus vite qu'une machine virtuelle lourde, sauf si j'utilise la fonctionnalité de snapshot de la plateforme. Quand le chemin est vu par l'utilisateur et que la latence de queue compte, j'arrête d'optimiser et j'achète de la concurrence provisionnée pour la base attendue, parce que ça garde les environnements initialisés. Ce que je ne fais plus, c'est pinguer les fonctions avec un minuteur pour les garder chaudes ; ce n'est pas fiable dès qu'il y a de la vraie concurrence. Pour du travail piloté par file ou du batch, en général je l'accepte simplement.