Server-Timing auf allen Endpunkten

Da wir nur das verbessern können, was wir messen, haben wir begonnen, die Server Timing API auf allen HTTP-Endpunkten zu implementieren.

Die API bietet einfache Mittel, um den HTTP-Header mit einigen Leistungskennzahlen zu erweitern.

Für eine allgemeine Einführung in das Thema können Sie die Mozilla-Dokumentation dazu ansehen (https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Server-Timing).

Für die eigentliche Implementierung verwenden wir die folgende Rust-Implementierung, die uns Leistungsdaten für den axum-Server direkt zur Verfügung stellt (https://crates.io/crates/axum-server-timing).

Da unsere Architektur sich über mehrere Rechenzentren erstreckt, veröffentlichen wir diese Metriken nicht als einzelne Messung. Wir haben einen geschichteten Ansatz für unser Netzwerk gewählt.

• DTZ-RED
  • Unser über das öffentliche Internet erreichbarer Endpunkt
• DTZ-BLUE
  • Internes, kundenorientiertes Netzwerk
  • Skalierung wird in dieser Schicht gehandhabt
  • Enthält den Service-Zustand, hot/warm/cold
• Backend-Service
  • Falls verfügbar, kann jeder Service eigene Leistungsmetriken bereitstellen.
  • In unserem Fall verwenden wir die Objectstore-API

Hier sind einige Beispiel-Header, die von unserer API erzeugt werden.

server-timing: dtz-red;dur=765, dtz-blue;desc="dtz-blue(warm)";dur=538
content-length: 19276864
last-modified: Sun, 07 May 2023 10:25:33 GMT
date: Sun, 07 May 2023 10:27:52 GMT
content-type: application/octet-stream

• Das Backend befand sich in einem warmen Zustand
• Blue-Schicht, Skalierung + Backend dauerten 538ms
• Red-Schicht dauerte 765ms

• Das Backend befand sich in einem heißen Zustand und dauerte 7ms
• Blue-Schicht dauerte 16ms
• Red-Schicht dauerte 35ms