Rate Limiting

Problem

Ein Kunde sendet: 100.000 Anfragen/Sec Ihre API kann nur 20.000 verarbeiten. Ein Verbraucher sollte nicht in der Lage sein, Kapazitäten für alle zu erschöpfen.

Lösung — Rate Limiting

Begrenzen Sie, wie viel Traffic ein Client generieren kann. Ein API-Gateway erzwingt üblicherweise Ratenbegrenzungen, bevor Anfragen das Backend erreichen. Reverse Proxies, WAFs, Anwendungen und einige Load Balancer können sie auch erzwingen. Regeln können Anfragen pro IP, Benutzer oder API-Schlüssel zählen und normalerweise HTTP 429 Too Many Requests zurückgeben, wenn sie überschritten werden.

Client A → 100 req/sec ✓
Client A → Anfrage 101 ✗

Kerngedanke: Die Ratenbegrenzung schützt die gemeinsam genutzte Kapazität durch die Steuerung der Anforderungshäufigkeit.