Server Timing on all Endpoints

Da wir nur verbessern können, was wir messen, haben wir begonnen, die Server Timing API auf allen HTTP-Endpunkten zu implementieren.

Die API bietet einfache Möglichkeiten, den HTTP-Header mit einigen Leistungskennzahlen zu erweitern.

Für eine allgemeine Einführung in das Thema können Sie die Mozilla-Dokumentation dazu ansehen (https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Server-Timing).

Was die eigentliche Implementierung betrifft, verwenden wir die folgende Rust-Implementierung, die uns Leistungsdaten für den Axum-Server direkt zur Verfügung stellt (https://crates.io/crates/axum-server-timing).

Da unsere Architektur mehrere Rechenzentren umfasst, veröffentlichen wir diese Metriken nicht als eine einzelne Messung. Wir haben einen mehrschichtigen Ansatz für unser Netzwerk gewählt.

• DTZ-RED
  • Unser öffentlicher, internetexponierter Endpunkt
• DTZ-BLUE
  • Internes, kundenorientiertes Netzwerk
  • Skalierung wird in dieser Schicht gehandhabt
  • Enthält den Service-Zustand, hot/warm/cold
• Backend-Service
  • Falls verfügbar, kann jeder Service seine eigenen Leistungsmetriken bereitstellen.
  • In unserem Fall verwenden wir die Objectstore-API

Hier einige Beispiel-Header, die unsere API erzeugt.

server-timing: dtz-red;dur=765, dtz-blue;desc="dtz-blue(warm)";dur=538
content-length: 19276864
last-modified: Sun, 07 May 2023 10:25:33 GMT
date: Sun, 07 May 2023 10:27:52 GMT
content-type: application/octet-stream

• Das Backend befand sich in einem warmen Zustand
• blaue Schicht, Skalierung + Backend dauerten 538 ms
• rote Schicht dauerte 765 ms

• Das Backend befand sich in einem heißen Zustand und dauerte 7 ms
• blaue Schicht dauerte 16 ms
• rote Schicht dauerte 35 ms