Was verursacht Cold Starts bei Serverless Functions und wie gehst du damit um?

Ein Cold Start passiert, wenn ein Request ankommt und keine warme Execution Environment frei ist, die Plattform muss also eine bereitstellen, deinen Code herunterladen und entpacken, die Runtime starten und deine Initialisierung laufen lassen, bevor der Request drankommt. Reduzier das, indem du das Package verkleinerst, eine leichtere Runtime wählst, schweres Setup aus dem Request-Pfad ziehst und Verbindungen wiederverwendest. Für latenzkritische Pfade nimm Provisioned Concurrency statt Warmhalte-Tricks.

Ein Cold Start ist die Plattform, die eine neue Execution Environment baut, weil keine warme frei ist. Das heißt: bereitstellen, dein Artefakt ziehen und entpacken, die Runtime booten und deinen Initialisierungscode laufen lassen, bevor dein Handler überhaupt aufgerufen wird. Was ich kontrolliere, sind Artefaktgröße und Initialisierung, ich trimme also Dependencies hart, weil ein fettes Package jedem Cold Start echte Zeit hinzufügt, und ich ziehe Dinge wie Config-Laden und Client-Konstruktion aus dem Handler heraus, damit sie einmal pro Environment statt einmal pro Request laufen und bei warmen Aufrufen wiederverwendet werden. Die Runtime-Wahl zählt auch, eine leichtgewichtige Runtime startet weit schneller als eine schwergewichtige Virtual Machine, außer ich nutze die Snapshot-Funktion der Plattform. Wenn der Pfad nutzerseitig ist und die Tail-Latenz zählt, höre ich auf zu optimieren und kaufe Provisioned Concurrency für die erwartete Grundlast, denn das hält Environments initialisiert. Was ich nicht mehr mache, ist Functions per Timer anzupingen, um sie warm zu halten. Das ist bei echter Nebenläufigkeit unzuverlässig. Bei Queue-getriebener oder Batch-Arbeit nehme ich es meistens einfach hin.