Wie setzt du CPU- und Memory-Requests und -Limits für einen Workload?

Setz Requests aus beobachteter Auslastung, für CPU typischerweise um den Median und für Memory nahe dem Peak, denn Requests treiben Scheduling und Kapazität. Setz das Memory-Limit nah an den Request, denn Überschreiten killt den Container, und sei vorsichtig mit CPU-Limits, weil sie Throttling verursachen, das sich als unerklärliche Latenz zeigt. Überprüf die Zahlen mit echten Daten, statt sie zwischen Services zu kopieren.

Requests sind das, was der Scheduler zur Platzierung nutzt und wofür du faktisch zahlst, Limits sind die Decke, die die Runtime durchsetzt. Die beiden Ressourcen verhalten sich völlig unterschiedlich. CPU ist komprimierbar, ein CPU-Limit zu treffen heißt also, der Container wird gethrottelt, und das erscheint als Latenzspitzen ohne offensichtliche Ursache, was übel zu debuggen ist. Memory ist nicht komprimierbar, ein überschrittenes Memory-Limit heißt also, der Container wird sofort gekillt. Daraus folgen meine Defaults: CPU-Request aus der beobachteten Medianauslastung mit etwas Luft, und bei CPU-Limits auf latenzsensitiven Services bin ich meist vorsichtig oder setze sie großzügig. Für Memory setze ich den Request nahe dem realistischen Peak und das Limit dicht darüber, damit ein Leak schnell und sichtbar scheitert, statt still den Node aufzufressen. Die Zahlen hole ich aus ein paar Wochen echter Auslastungsperzentile, nicht aus dem Kopieren eines anderen Service, und ich prüfe sie nach Lasttests neu. Die andere Seite ist, dass aufgeblähte Requests der Hauptgrund dafür sind, dass Cluster leer aussehen und trotzdem nichts mehr schedulen können.