Latenz, Durchsatz, Bandbreite und Perzentile
Problem
Die durchschnittliche Reaktionszeit Ihrer Website beträgt 200 Millisekunden. Das Dashboard sieht gesund aus, aber einige Kunden warten mehrere Sekunden. Sie aktualisieren die Netzwerkverbindung, aber die Beschwerden gehen weiter. Welche Messung sagt Ihnen, was tatsächlich langsam ist?
Lösung — Messen Sie verschiedene Teile der Leistung
Latenz misst Verzögerung über eine definierte Grenze hinweg. Bei einer Web-Anfrage messen Sie möglicherweise vom Senden der Anfrage bis zum Empfang der vollständigen Antwort. Die Netzwerk-Roundtrip-Zeit misst eine andere Grenze; sie umfasst nicht alle Anwendungsarbeiten.
Der Durchsatz misst, wie viel Arbeit pro Sekunde erledigt wird, z. B. 500 Anfragen pro Sekunde. Die Bandbreite beschreibt die Datentragfähigkeit, z. B. eine 1 Gbit/s-Verbindung. Der tatsächliche Übertragungsdurchsatz kann niedriger sein. Durch mehr Bandbreite wird eine langsame Datenbankabfrage nicht entfernt.
Perzentile beschreiben die Verteilung der gemessenen Verzögerungen. p50 ist der Median. Bei p95 = 800 Millisekunden wurden etwa 95 % der gemessenen Anfragen innerhalb dieser Zeit abgeschlossen; die langsamsten 5 % brauchten länger. p99 blickt weiter in diesen langsamen Randbereich, ist aber kein Maximalwert.
Operation, Messgrenze und Zeitfenster gehören immer zur Angabe. Die Werte beschreiben die gemessenen Anfragen; sie geben keine Garantie für die nächste Anfrage.
Kerngedanke: Leistung erfordert getrennte Messungen für Verzögerung, abgeschlossene Arbeit, Kapazität und die Erfahrung von langsameren Anfragen.