¿Cómo fijas las peticiones y los límites de CPU y memoria para una carga de trabajo?

Fija las peticiones a partir del uso observado, normalmente alrededor de la mediana para CPU y cerca del pico para memoria, porque las peticiones gobiernan la planificación y la capacidad. Pon el límite de memoria cerca de la petición, ya que superarlo hace que maten el contenedor, y ve con cuidado con los límites de CPU porque provocan estrangulamiento que aparece como latencia inexplicable. Revisa los números con datos reales en vez de copiarlos entre servicios.

Las peticiones son lo que usa el planificador para colocar el pod y lo que en la práctica estás pagando, y los límites son el techo que impone el runtime. Los dos recursos se comportan de forma completamente distinta. La CPU es comprimible, así que tocar un límite de CPU significa que el contenedor queda estrangulado, y eso aparece como picos de latencia sin causa obvia, algo horrible de depurar. La memoria no es comprimible, así que superar el límite de memoria significa que el contenedor muere sin más. De ahí salen mis valores por defecto: fijo la petición de CPU a partir de la mediana de uso observada con algo de margen, y suelo ir con cuidado con los límites de CPU en servicios sensibles a la latencia, o los pongo generosos. Para la memoria pongo la petición cerca del pico realista y el límite cerca de ella, para que una fuga falle rápido y de forma visible en vez de comerse el nodo en silencio. Los números salen de un par de semanas de percentiles de uso real, no de copiar otro servicio, y los reviso después de las pruebas de carga. La otra cara es que las peticiones infladas son la razón principal de que los clústeres parezcan vacíos y aun así no puedan planificar nada.