Server Timing en todos los endpoints

Como solo podemos mejorar aquello que medimos, empezamos a implementar la API de Server Timing en todos los endpoints HTTP.

La API ofrece medios sencillos para extender la cabecera HTTP con algunas mediciones de rendimiento.

Para una introducción general al tema puedes consultar la documentación de Mozilla sobre ello (https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Server-Timing).

En cuanto a la implementación real, usamos la siguiente implementación en Rust, que nos proporciona datos de rendimiento para el servidor axum listo para usar, (https://crates.io/crates/axum-server-timing).

Debido a que nuestra arquitectura abarca varios centros de datos, no publicamos estas métricas como una única medición. Hemos adoptado un enfoque por capas para nuestra red.

• DTZ-RED
  • Nuestro endpoint público expuesto a Internet
• DTZ-BLUE
  • Red interna orientada al cliente
  • El escalado se gestiona en esa capa
  • Contiene el estado del servicio, hot/warm/cold
• Backend service
  • Si está disponible, cualquier servicio puede proporcionar sus propias métricas de rendimiento.
  • En nuestro caso usamos la Objectstore-API

Aquí hay algunos encabezados de ejemplo producidos por nuestra API.

server-timing: dtz-red;dur=765, dtz-blue;desc="dtz-blue(warm)";dur=538
content-length: 19276864
last-modified: Sun, 07 May 2023 10:25:33 GMT
date: Sun, 07 May 2023 10:27:52 GMT
content-type: application/octet-stream

• el backend estaba en estado warm
• la capa blue, escalado + backend tomaron 538ms
• la capa red tardó 765ms

• el backend estaba en estado hot y tardó 7ms
• la capa blue tardó 16ms
• la capa red tardó 35ms