Temporización del Servidor en todos los Endpoints

Ya que solo podemos mejorar lo que medimos, comenzamos a implementar la API de Temporización del Servidor en todos los endpoints HTTP.

La API proporciona medios sencillos para extender la cabecera http con algunas mediciones de rendimiento.

Para una introducción general al tema, puedes consultar la documentación de Mozilla al respecto (https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Server-Timing).

En cuanto a la implementación actual, usamos la siguiente implementación en Rust, que nos proporciona datos de rendimiento para el servidor axum de forma inmediata, (https://crates.io/crates/axum-server-timing).

Dado que nuestra arquitectura abarca múltiples centros de datos, no publicamos estas métricas como una única medición. Hemos adoptado un enfoque en capas para nuestra red.

• DTZ-RED
  • Nuestro endpoint público expuesto a Internet
• DTZ-BLUE
  • Red interna orientada al cliente
  • El escalado se maneja en esa capa
  • Contiene el estado del servicio, hot/warm/cold
• Servicio backend
  • Si está disponible, cualquier servicio puede proporcionar sus propias métricas de rendimiento.
  • En nuestro caso usamos la Objectstore-API

Aquí algunos ejemplos de cabeceras producidas por nuestra API.

server-timing: dtz-red;dur=765, dtz-blue;desc="dtz-blue(warm)";dur=538
content-length: 19276864
last-modified: Sun, 07 May 2023 10:25:33 GMT
date: Sun, 07 May 2023 10:27:52 GMT
content-type: application/octet-stream

• el backend estaba en un estado warm
• capa blue, escalado + backend tomó 538ms
• capa red, tomó 765ms

• el backend estaba en un estado hot y tomó 7ms
• capa blue, tomó 16ms
• capa red, tomó 35ms