Caché
- Lección 7 de 40
- 14 min
- Inicial
- 13 pasos
Si tu base de datos responde mil veces al día la misma pregunta, guarda la respuesta en memoria. Rápido de montar, delicado de mantener al día.
- Latencia p95
- 25 ms
- Tasa de aciertos
- 95%
- Uso de la BD
- 6%
- petición
- respuesta
- fallo de caché
- esperando en cola
Paso 1 de 13
Problema
Todas las lecturas llegan a la base de datos
Tu tienda online crece. Cada vez que alguien abre la ficha de un producto, el servidor le pregunta a la base de datos lo mismo: nombre, precio, imágenes. La base de datos ya trabaja al 90 %.
Las consultas empiezan a esperar turno y el p95 se va a unos 450 ms. Las cifras de esta lección son un escenario de ejemplo.
Paso 2 de 13
Concepto
Las mismas filas, una y otra vez
Si miras qué se consulta, verás que unos pocos productos populares acaparan la mayoría de las lecturas. La base de datos repite el mismo trabajo miles de veces por minuto.
Un dato que se lee mucho y cambia poco es el candidato ideal para guardar una copia en un sitio más rápido.
Paso 3 de 13
Solución
Una caché en memoria delante de la base de datos
Pon un almacén clave-valor en memoria junto al servidor. Antes de ir a la base de datos, el servidor mira ahí: si encuentra la clave (acierto), responde en torno a 1 ms.
Si no está (fallo), lee de la base de datos, responde y guarda una copia en la caché para la siguiente vez. Ese flujo se llama cache-aside.
Qué cambió
- Caché en memoria
- 8 de cada 10 lecturas salen de la caché
- Uso de la BD: 90 % → 20 %
Paso 4 de 13
Técnica
Todo depende de la tasa de aciertos
La tasa de aciertos es el porcentaje de lecturas que resuelve la caché. Como un fallo cuesta unas 20 veces más que un acierto, unos pocos puntos cambian mucho el resultado.
Del 80 % al 95 %, el tiempo medio de lectura pasa de 4,8 ms a unos 2 ms, y a la base de datos le llegan 5 de cada 100 lecturas en lugar de 20: una cuarta parte.
Qué cambió
- Aciertos: 80 % → 95 %
- Uso de la BD: 20 % → 6 %
Paso 5 de 13
Problema
Cambia el precio, la caché no se entera
Alguien del equipo sube un producto de 49 a 59. La base de datos ya guarda 59, pero la caché conserva su copia con 49, y eso es lo que siguen viendo los clientes.
Una caché es una segunda copia de los datos. El trabajo difícil no es guardarla, sino que no se quede atrás.
Qué cambió
- Base de datos: precio 49 → 59
- La caché sigue con 49
Paso 6 de 13
Solución
Borra al escribir y pon fecha de caducidad
Cuando cambia un dato, el servidor lo escribe en la base de datos y después borra la clave de la caché. La próxima lectura fallará y traerá el valor nuevo.
Por si alguna vez falla ese borrado, cada entrada lleva un TTL (tiempo de vida): pasado ese plazo, desaparece sola. Con 60 s, un dato viejo dura como mucho un minuto.
¿Por qué borrar y no sobrescribir? Si dos escrituras se cruzan, la más lenta puede dejar el valor antiguo en la caché. Borrar no tiene ese riesgo: la siguiente lectura trae lo que haya en la base de datos.
Qué cambió
- Cada escritura borra su clave
- TTL de 60 s
- Los clientes ven 59
Paso 7 de 13
Compromiso
La memoria no alcanza para todo
La memoria cuesta más que el disco, así que la caché tiene un tamaño fijo. Cuando se llena, hay que sacar algo para que entre lo nuevo.
La política más común es LRU: sale la entrada que lleva más tiempo sin usarse. Lo popular se queda y lo raro va rotando.
La alternativa LFU saca la entrada que menos veces se ha leído. Aguanta mejor una ráfaga de lecturas sueltas que, con LRU, podría desplazar a los favoritos de siempre.
Qué cambió
- Caché llena
- Sale la entrada sin uso desde hace más tiempo
- Aciertos: 94 % → 93 %
Paso 8 de 13
Problema
La clave más pedida caduca
La portada de la tienda es la clave estrella: unas 2000 lecturas por segundo, cerca del 40 % de todas. Su TTL vence y, en ese instante, todas esas lecturas fallan a la vez.
Cada una va a la base de datos a calcular exactamente la misma respuesta. La base de datos pasa del 6 % al 100 % y el p95 se dispara. Es una estampida de caché (*thundering herd*).
Qué cambió
- Caduca la clave de la portada
- 2000 fallos iguales a la vez
- Aciertos: 95 % → 55 %
Paso 9 de 13
Solución
Un solo viaje a la base de datos
Agrupa las peticiones (request coalescing): el primer fallo toma un candado corto y consulta la base de datos; los demás esperan unos milisegundos y reciben ese mismo resultado.
Suma dos costumbres: renueva las claves calientes un poco antes de que caduquen y añade una variación aleatoria (jitter) al TTL para que no venzan muchas a la vez.
Qué cambió
- Una lectura por clave caducada
- Renovación anticipada y TTL con jitter
- Uso de la BD: 100 % → 6 %
Paso 10 de 13
Problema
Consultas por cosas que no existen
Un bot recorre la tienda inventando identificadores: producto 90000001, 90000002, 90000003… Ninguno está en la caché, todos van a la base de datos y ninguno devuelve filas, así que no queda nada que guardar.
En este ejemplo el bot manda tantas peticiones como todos los clientes juntos. La caché no frena ninguna: la base de datos pasa del 6 % al 95 %. Se le llama penetración de caché.
Qué cambió
- Peticiones a identificadores inventados
- Aciertos: 95 % → 48 %
- Uso de la BD: 6 % → 95 %
Paso 11 de 13
Solución
Guarda también el «no existe»
Primera defensa: caché negativa. Guarda la respuesta «no encontrado» con un TTL corto, por ejemplo 30 s. Si alguien repite el mismo identificador falso, lo resuelve la caché.
Pero el bot nunca repite. Para eso, el servidor mantiene en memoria un filtro de Bloom con todos los identificadores reales: una estructura de bits que responde «seguro que no está» o «puede que esté». Lo que seguro no existe recibe un 404 sin tocar caché ni base de datos.
Qué cambió
- «No encontrado» en caché con TTL de 30 s
- Filtro de Bloom delante de la caché
- Uso de la BD: 95 % → 6 %
Paso 12 de 13
Concepto
Hay cachés en todo el camino
La caché que montaste es una de varias. Una lectura puede resolverse en el navegador, en una CDN, en la memoria del propio proceso, en una caché compartida o en la memoria de la base de datos.
Cuanto más cerca del usuario está la copia, más rápida y barata es la respuesta, y más difícil es invalidarla cuando el dato cambia.
Paso 13 de 13
Resumen
Resumen
Cachea lo que se lee mucho y cambia poco.
Cache-aside: busca en la caché; si falla, lee la base de datos y guarda la copia.
La tasa de aciertos decide la velocidad y la carga que llega a la base de datos.
Asume que habrá datos viejos: borra al escribir, pon TTL y expulsa con LRU o LFU.
Protege las claves calientes: una sola lectura, renovación anticipada y TTL con jitter.
Guarda el «no existe» y filtra los identificadores imposibles con un filtro de Bloom.
← → paso · R repetir · Espacio pausa
Aprenderás
- Reconocer lecturas repetidas que conviene cachear (visto)
- Aplicar el patrón cache-aside (visto)
- Calcular el efecto de la tasa de aciertos (visto)
- Invalidar, caducar con TTL y expulsar entradas (visto)
- Evitar estampidas en las claves más pedidas (visto)
- Frenar las consultas a claves que no existen (visto)
- Ubicar las capas de caché entre usuario y datos (visto)