Una clave caliente de la caché caduca y tu base de datos se cae. ¿Qué ha pasado y cómo lo evitas?

Eso es una estampida de caché, también llamada avalancha. Miles de peticiones concurrentes fallan la caché en el mismo instante y todas recalculan el mismo valor. Se arregla con un bloqueo de vuelo único para que solo un worker recalcule mientras los demás esperan o sirven datos caducados. Añade jitter a los TTL para que las claves no caduquen a la vez, refresca las claves calientes en segundo plano antes de que caduquen y sirve datos caducados ante errores.

Es una estampida. La clave caduca, diez mil peticiones en vuelo fallan la caché a la vez y todas ejecutan la misma consulta cara, así que la base de datos ve diez mil copias de una consulta que normalmente ve una vez por minuto. El primer arreglo es agrupar, así que un bloqueo de vuelo único en la caché hace que un worker recalcule y todos los demás esperen ese resultado o reciban el valor caducado. Usamos un bloqueo con SETNX de Redis y un TTL corto para esto, y la carga de base de datos en esa ruta cayó unos dos órdenes de magnitud. Encima de eso añado jitter a cada TTL, así que en vez de exactamente 300 segundos son 300 más menos un 10%, lo que descorrelaciona las caducidades entre claves. Para las claves de verdad calientes prefiero el recálculo probabilístico anticipado, donde una petición que llega cerca del final del TTL refresca en segundo plano mientras sigue sirviendo el valor cacheado. Y siempre cacheo los resultados negativos, porque si no una fila que falta se convierte en un bucle de consultas sin límite.