Diseña un chat

  • Lección 40 de 40
  • 14 min
  • Avanzado
  • 12 pasos

Un chat parece sencillo hasta que hay millones de teléfonos conectados a la vez. Ahí no basta con que el mensaje llegue rápido: tiene que llegar siempre, en orden y sin repetirse.

Tiempo de entrega
100 ms
Conexiones abiertas
20M
Puede perder mensajes
no
Orden garantizado
sí
AliceGateway 1Gateway 1Gateway 1Gateway 1Gateway 1ChatChat pordiseñarServidorde chatChatChatGateway 2Gateway 2Gateway 2Gateway 2Gateway 2BobCarlaPushPushPushPushPushmensajesSesionesusuario → gatewaySesionesusuario → gatewaySesionesusuario → gatewaySesionesusuario → gatewaySesionesRequisitosenviara una persona o a un gruporecibiral instante o al reconectargarantíassin pérdidas · en orden · una vezlatencia< 200 ms con ambos en líneaLa cuenta60 M usuarios × 30 mensajes≈ 21.000 / s× 200 bytes≈ 360 GB / díaconectados en el pico20 M÷ 200.000 por servidor≈ 100 gatewaysvalores de ejemploWebSocketWebSocketsockets en memoria: alice, bob¿qué gateway tiene a Bob?bob → gateway 2conv 88 · #42 · primero se guardaUna fila por mensajeparticiónconversation_idordenseq: 41, 42, 43…columnasmessage_id · sender · body · sent_atúltimos 50 de la conv 88una lectura por rangosin señal · tiene hasta el #41bob: sin entradaconv 88 · #42 y #43 esperan«2 mensajes nuevos»reintento · mismo id c91ec91e ya guardado → solo confirmalo ve una sola vez3 miembrosve: Bob en líneaescribiendo…bob: en línea · TTL 30 scaídabob → gateway 1reconectado · sincroniza desde el #43DecisionestransporteWebSocket en gateways simplesel servidor empujaenrutadoregistro usuario → gatewayconexiones con estadodurabilidadguardar y luego entregarnada se pierdeorden y duplicadosseq del servidor + id del dispositivorelojes y reintentos engañansin conexiónpush + sincronización por cursorun camino para todo hueco
  • petición
  • respuesta
  • handshake
  • evento
  • petición fallida

Paso 1 de 12

Concepto

El encargo: una app de mensajería

Tercer diseño completo: chats entre dos personas y en grupos pequeños. Si el destinatario está en línea, el mensaje le llega en el acto; si no, lo espera; y aparece en todos sus dispositivos.

Aquí manda la confianza. Ningún mensaje puede perderse, todos deben verse en el orden en que se enviaron y ninguno puede aparecer dos veces. La velocidad importa (menos de 200 ms con ambos en línea), pero nunca por encima de esas tres garantías.

Paso 2 de 12

Concepto

Primero, los números

Supongamos (valores de ejemplo) 60 millones de usuarios diarios que envían 30 mensajes cada uno: 1.800 millones al día, unos 21.000 por segundo de media y varias veces más en el pico. Con unos 200 bytes por mensaje son 360 GB al día, unos 130 TB al año.

El número que cambia el diseño es otro: las conexiones. Es el servidor quien empuja los mensajes, así que cada usuario en línea mantiene una conexión abierta todo el tiempo. En el pico son 20 millones a la vez.

Qué cambió

  • ≈ 21.000 mensajes/s · 360 GB/día
  • 20 M de conexiones abiertas en el pico

Paso 3 de 12

Solución

Primer borrador: un servidor y dos sockets

Como vimos en Tiempo real, preguntar cada pocos segundos desperdicia peticiones y añade retraso. Por eso cada teléfono abre un WebSocket: una conexión que queda abierta y por la que el servidor puede enviar datos cuando quiera.

Con un solo servidor todo es fácil: Alice y Bob están conectados a la misma máquina. Cuando llega el mensaje de Alice, el servidor busca el socket de Bob en su propia memoria y lo escribe ahí.

Qué cambió

  • Servidor de chat
  • Un WebSocket por dispositivo

Paso 4 de 12

Problema

Cien servidores: ¿dónde está Bob?

Para 20 millones de sockets hacen falta unas cien máquinas. Separa los papeles: las gateways solo mantienen conexiones abiertas, y un servicio de chat sin estado, detrás de ellas, concentra la lógica.

Ahora Alice está conectada a la gateway 1 y Bob a la gateway 2. El mensaje de Alice llega al servicio de chat, que no tiene forma de saber cuál de las cien gateways sostiene el socket de Bob.

Qué cambió

  • Gateways que solo mantienen sockets
  • La lógica pasa a un servicio sin estado
  • El servicio de chat no encuentra a Bob

Paso 5 de 12

Solución

Un registro de quién está conectado dónde

Cuando un dispositivo se conecta, su gateway anota en un almacén en memoria bob → gateway 2, con un TTL corto que renueva con latidos periódicos. El servicio de chat consulta ese registro y le pasa el mensaje a la gateway correcta, que lo escribe en el socket de Bob.

Es la idea de Service discovery aplicada a cada usuario: un registro que se mantiene al día gracias a los latidos.

Qué cambió

  • Registro de sesiones: usuario → gateway
  • Latidos que mantienen fresca cada entrada
  • Cada mensaje va a la gateway correcta

Paso 6 de 12

Solución

Guarda el mensaje antes de entregarlo

Hasta ahora el mensaje solo existe en memoria mientras viaja: si un servidor se cae a mitad de camino, se pierde. La regla es guardar primero y entregar después. El servicio de chat escribe cada mensaje en un almacén duradero y solo entonces le confirma a Alice que se envió.

Al guardarlo, el servicio le asigna el siguiente número de la conversación (seq). Ese número, y no el reloj de cada teléfono, decide el orden en que todos ven los mensajes.

Qué cambió

  • Almacén de mensajes duradero
  • Guardar, confirmar y después entregar
  • Número de secuencia por conversación

Paso 7 de 12

Problema

Caso: Bob entra en un túnel

El teléfono de Bob pierde la señal. Su entrada en el registro vence, así que el servicio de chat ni intenta entregarle. El mensaje ya está a salvo en el almacén, y una notificación push (el servicio de avisos del sistema operativo del teléfono) le avisa que tiene mensajes nuevos.

Al reconectarse, la app de Bob dice «de la conversación 88 tengo hasta el #41» y el servidor le manda todo lo posterior. Esta sincronización por cursor sirve igual para un corte de cinco segundos, una semana sin conexión o un teléfono nuevo.

Qué cambió

  • Bob sin conexión
  • Servicio de notificaciones push
  • Sincronización desde el último número recibido

Paso 8 de 12

Problema

Caso: enviado dos veces, visto una

Alice envía un mensaje desde un ascensor. Llega y se guarda, pero la confirmación se pierde de vuelta. Su app no puede saberlo, así que reintenta, y el servidor recibe el mismo mensaje dos veces.

La solución es la de Timeouts y reintentos: la app genera un id único para cada mensaje antes de enviarlo y repite ese mismo id en cada reintento. El servidor reconoce un id que ya guardó y solo vuelve a confirmar. Las apps que reciben descartan duplicados de la misma forma.

Qué cambió

  • Id único generado en el dispositivo
  • Un id repetido solo se vuelve a confirmar

Paso 9 de 12

Técnica

Grupos: se guarda una vez, se entrega a muchos

Un mensaje de grupo se guarda una sola vez, en la conversación del grupo. Luego el servicio de chat busca a los miembros, consulta en el registro la gateway de cada uno y envía una copia a cada dispositivo en línea: fan-out en escritura, como en el news feed.

Funciona bien hasta unos cientos de miembros. Un canal con 100.000 miembros repite el problema de las celebridades: ahí conviene que cada app pida los mensajes nuevos al abrir el canal.

Qué cambió

  • Carla se suma al grupo
  • Una copia por miembro en línea

Paso 10 de 12

Compromiso

«En línea» y «escribiendo…» van por otro carril

La presencia parece barata y no lo es: cada vez que alguien se conecta o se desconecta, la pantalla de todos sus contactos podría necesitar un cambio. Con 20 millones de personas entrando y saliendo, es una lluvia de mensajes diminutos.

Trátala como algo efímero. Deduce «en línea» de los latidos del registro, envía cambios solo a quien tiene ese chat o esa lista abierta en ese momento y no guardes nunca «escribiendo…». Si un aviso se pierde, el siguiente latido lo corrige.

Qué cambió

  • La presencia sale de los latidos
  • «Escribiendo…» nunca se guarda

Paso 11 de 12

Problema

Caso: se cae una gateway

La gateway 2 se cae y sus 200.000 sockets se cortan a la vez. No se pierde ningún mensaje, porque todo se guardó primero, pero 200.000 apps intentan reconectarse en el mismo segundo y pueden tumbar la gateway que les toque.

Las apps reconectan con espera exponencial y jitter (Timeouts y reintentos), el balanceador las reparte entre las gateways sanas, cada una registra su nueva ubicación y cada app se sincroniza desde su cursor.

Qué cambió

  • Gateway 2 caída
  • Reconexión con espera exponencial y jitter
  • bob → gateway 1

Paso 12 de 12

Resumen

El diseño terminado

Cada decisión de la tabla responde a una garantía del encargo: entregar al instante, no perder, no desordenar y no repetir.

El cifrado de extremo a extremo (Cifrado y secretos) cambia lo que el servidor puede leer, no esta arquitectura: guarda y reenvía texto cifrado.

Aprenderás

  • Calcular cuántas conexiones abiertas necesitas, no solo cuántos mensajes
  • Encontrar a cada usuario entre muchas gateways con estado
  • Guardar antes de entregar para no perder ni desordenar
  • Entregar a quien está desconectado y descartar duplicados
  • Escalar a grupos, mostrar presencia y sobrevivir a una gateway caída