Server Timing on all Endpoints

Puesto que solo podemos mejorar aquello que medimos, comenzamos a implementar la Server Timing API en todos los endpoints HTTP.

La API proporciona medios sencillos para ampliar el encabezado HTTP con algunas mediciones de rendimiento.

Para una introducción general al tema puedes consultar la documentación de Mozilla al respecto (https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Server-Timing).

En cuanto a la implementación real, usamos la siguiente implementación en Rust, que nos proporciona datos de rendimiento para servidores axum listos para usar, (https://crates.io/crates/axum-server-timing).

Debido a que nuestra arquitectura abarca múltiples centros de datos, no publicamos estas métricas como una única medición. Hemos adoptado un enfoque por capas para nuestra red.

• DTZ-RED
  • Nuestro endpoint expuesto a Internet público
• DTZ-BLUE
  • Red interna orientada al cliente
  • El escalado se gestiona en esa capa
  • Contiene el estado del servicio, hot/warm/cold
• Backend service
  • Si está disponible, cualquier servicio puede proporcionar sus propias métricas de rendimiento.
  • En nuestro caso usamos la Objectstore-API

Aquí hay algunos encabezados de ejemplo producidos por nuestra API.

server-timing: dtz-red;dur=765, dtz-blue;desc="dtz-blue(warm)";dur=538
content-length: 19276864
last-modified: Sun, 07 May 2023 10:25:33 GMT
date: Sun, 07 May 2023 10:27:52 GMT
content-type: application/octet-stream

• el backend estaba en un estado warm
• capa blue, escalado + backend tardaron 538ms
• capa red, tardó 765ms

• el backend estaba en un estado hot y tardó 7ms
• capa blue, tardó 16ms
• capa red, tardó 35ms