Timeouts y reintentos
- Lección 26 de 40
- 11 min
- Intermedio
- 11 pasos
Cuando una dependencia va lenta o se cae, la forma en que la llamas decide si el problema se queda ahí o tumba todo tu sistema. Las cifras de la escena son de ejemplo.
- Cobros a tiempo
- 99%
- p99 de la llamada a pagos
- 180 ms
- Carga en pagos
- 1×
- Hilos ocupados (de 200)
- 30
- petición
- respuesta
- petición lenta
- petición fallida
- comprobación de salud
Paso 1 de 11
Problema
Un servicio lento arrastra a otro
El servicio de pagos suele responder en 50 ms, pero hoy tarda 30 segundos. El servicio de pedidos lo llama y se queda esperando, sin ningún límite de tiempo.
Cada llamada en espera retiene un hilo. Pedidos tiene 200 y en menos de un minuto están todos bloqueados: ya no atiende ni las páginas que no necesitan pagos. Un problema en una dependencia se convierte en una caída completa.
Paso 2 de 11
Solución
Ponle un timeout y ten un plan B
Cada llamada saliente lleva un timeout: si pagos no contesta en 800 ms, pedidos deja de esperar y libera el hilo. En este ejemplo el 90 % de las llamadas llega a tiempo y el 10 % restante se corta.
Para ese 10 % hay un plan B (fallback): el pedido se acepta como «pago pendiente» y se cobra un poco después. Pedidos sigue en pie para todo lo demás.
Qué cambió
- Timeout de 800 ms en las llamadas a pagos
- Plan B: «pago pendiente»
- Hilos ocupados: 200 → 36
- Cobros a tiempo: 2 % → 90 %
Paso 3 de 11
Técnica
Reintenta los fallos pasajeros
Muchos fallos duran un instante: un paquete perdido, una instancia que se reinicia, un pico breve. Si vuelves a intentarlo poco después, lo normal es que funcione.
Con un reintento tras el timeout, 8 de cada 10 llamadas cortadas salen bien a la segunda: los cobros a tiempo pasan del 90 % al 98 % (90 + 10 × 0,8). El precio: pagos recibe un 10 % más de llamadas (1,1×) y el p99 sube a unos 950 ms (800 de espera + unos 150 del segundo intento).
Qué cambió
- Un reintento en timeouts y 503
- Cobros a tiempo: 90 % → 98 %
- Carga en pagos: 1× → 1,1×
Paso 4 de 11
Problema
Los reintentos se vuelven una tormenta
Ahora pagos se satura de verdad. Cada cliente reintenta tres veces y sin pausa, así que cada petición que falla se convierte en cuatro: pagos recibe 4 veces su carga normal.
Así no se recupera nunca: los propios reintentos lo mantienen hundido, y tus clientes se comportan como un ataque de denegación de servicio. Cada intento agota sus 800 ms, así que el p99 llega a 3,2 s (4 × 800 ms) y los 200 hilos vuelven a llenarse.
Qué cambió
- Pagos saturado
- 3 reintentos inmediatos por fallo
- Carga en pagos: 1,1× → 4×
Paso 5 de 11
Solución
Espera cada vez más, y con jitter
Antes de reintentar, espera, y cada vez el doble: 100 ms, luego 200, luego 400. Es el backoff exponencial. Súmale una parte aleatoria (jitter) para que miles de clientes no reintenten en el mismo instante.
Limita los intentos y también la parte del tráfico que pueden ser reintentos: con un presupuesto de reintentos del 10 %, la carga nunca pasa de 1,1×. Pagos tiene aire para recuperarse.
Qué cambió
- Esperas de 100 → 200 → 400 ms (+ jitter)
- Presupuesto de reintentos: 10 %
- Carga en pagos: 4× → 1,1×
Paso 6 de 11
Técnica
Circuit breaker: deja de llamar un rato
Pagos cae del todo. Aun con timeout, cada llamada pierde 800 ms en descubrirlo. Un circuit breaker cuenta los fallos: si pasan de un umbral, se abre y rechaza las llamadas al instante, sin intentarlas.
Cada cierto tiempo (aquí, 30 s) deja pasar una llamada de prueba: es el estado semiabierto. Si sale bien, se vuelve a cerrar. Mientras tanto, los pedidos siguen entrando como «pago pendiente».
Qué cambió
- Pagos caído
- Circuit breaker: ABIERTO
- Una llamada fallida tarda 1 ms, no 800 ms
Paso 7 de 11
Solución
Semiabierto y luego cerrado
Pagos se recupera. La siguiente llamada de prueba sale bien, el breaker se cierra y el tráfico vuelve poco a poco, para no aplastar al servicio nada más volver.
Los pedidos en «pago pendiente» se cobran desde una cola. No se perdió ninguno y el resto de la web nunca dejó de funcionar.
Qué cambió
- Pagos recuperado
- Breaker: SEMIABIERTO → CERRADO
- Pedidos pendientes cobrados
Paso 8 de 11
Técnica
Un reintento no puede cobrar dos veces
Un caso traicionero: pagos cobra la tarjeta, pero la respuesta se pierde por el camino. Pedidos agota el timeout, reintenta… y el cliente paga dos veces.
La solución es una clave de idempotencia: un identificador único por pedido que viaja en cada intento, por ejemplo en la cabecera Idempotency-Key. Pagos guarda el resultado de cada clave y, si llega un duplicado, devuelve ese resultado en lugar de cobrar otra vez.
Qué cambió
- Idempotency-Key en las llamadas a pagos
- Un intento repetido devuelve el resultado guardado
Paso 9 de 11
Técnica
Pasa el plazo hacia abajo
El navegador del comprador se rinde a los 2 segundos. Si pedidos ya gastó 1,9 s, no tiene sentido que pagos empiece 800 ms de trabajo: nadie verá la respuesta.
Por eso cada petición lleva un deadline: «responde antes de las 10:30:02.000». Cada servicio mira cuánto tiempo queda y pasa ese presupuesto al siguiente; si no queda nada, para en seco. En la escena, pedidos gastó 0,8 s y a pagos le quedan 1,2 s.
Qué cambió
- Deadline en cada petición
- Nada empieza si no puede acabar a tiempo
Paso 10 de 11
Técnica
Bulkheads: un pool por dependencia
¿Recuerdas el paso 1, cuando pagos lento acaparó los 200 hilos? Pedidos también puede protegerse dando a cada dependencia su propio pool: por ejemplo, 40 hilos para pagos, 40 para inventario y 120 para todo lo demás.
Ahora, si pagos se vuelve lento, solo se llenan sus 40 hilos. Hay unos 50 ocupados en total (40 de pagos y unos 10 del resto), y navegar, buscar o usar el carrito sigue funcionando. Es la idea de los compartimentos estancos de un barco: el patrón bulkhead.
Qué cambió
- Un pool de hilos por dependencia
- Pagos lento solo llena sus 40 hilos
- El resto de la web sigue igual
Paso 11 de 11
Resumen
Resumen
Toda llamada remota necesita un timeout y un plan B.
Reintenta solo errores pasajeros, con backoff exponencial, jitter y un tope.
Un circuit breaker deja de golpear a un servicio caído.
Lo que se reintenta tiene que ser idempotente.
Propaga deadlines y aísla dependencias con bulkheads.
← → paso · R repetir · Espacio pausa
Aprenderás
- Cómo un servicio lento propaga el fallo (visto)
- Timeouts y planes B (visto)
- Reintentos, tormentas de reintentos y backoff con jitter (visto)
- Circuit breakers y claves de idempotencia (visto)
- Deadlines y bulkheads (visto)