Start → Hilfe

Ein 429 richtig lesen – Retry-After und die Limit-Header

Was Sie sehen

• 429 Too Many Requests with no obvious pattern
• Retries make the problem worse
• Only some requests fail while others succeed at the same moment
• Rate limiting under a load that used to be fine

Warum das passiert

Anbieter messen mehrere Dimensionen gleichzeitig – Anfragen pro Minute, Tokens pro Minute und manchmal gleichzeitige Anfragen. Das Token-Limit zu erreichen, während man weit unter dem Anfrage-Limit liegt, ist der Grund, warum „nur manche Anfragen“ scheitern.

Token-Limits zählen, was Sie senden, plus was Sie reservieren. Ein paar Anfragen mit großem max_tokens können ein Budget an Tokens pro Minute erschöpfen, während die Anfragezahl unbedeutend aussieht.

Sofortige Wiederholungen werden ebenfalls gezählt. Eine enge Retry-Schleife macht aus einer Sekunde Pause eine anhaltende Sperre – das ist der übliche Grund, warum ein vorübergehendes 429 dauerhaft wird.

Prüfen, ob es daran liegt

Geben Sie bei einem 429 die Header aus statt des Bodys:

curl -s -D- -o /dev/null -X POST 'YOUR_BASE_URL/chat/completions' \
  -H 'Authorization: Bearer YOUR_KEY' -H 'Content-Type: application/json' \
  -d '{"model":"MODEL","messages":[{"role":"user","content":"hi"}]}' \
  | grep -i 'retry-after\|ratelimit\|^HTTP'

Beachten Sie Retry-After, wenn vorhanden. Fehlt er, ist exponentielles Backoff mit Jitter ab etwa einer Sekunde der sichere Standard.

So beheben Sie es

1. Retry-After vor dem eigenen Backoff beachtenSagt der Header 12 Sekunden, funktioniert es, 12 Sekunden zu warten. Ihr Backoff von einer Sekunde funktioniert nicht und kostet Sie auch noch den nächsten Versuch.
2. Jitter hinzufügenOhne zufälligen Versatz wiederholt jeder Client Ihrer Flotte im Gleichschritt und baut genau die Spitze wieder auf, vor der Sie zurückweichen.
3. Prüfen, ob es wirklich ein Guthabenproblem istManche Gateways liefern 429 bei leerem Konto. Das löst sich durch Wiederholen nie – lesen Sie den Fehler-Body, bevor Sie von einem Rate Limit ausgehen.

Verwandte Themen

Zuletzt geprüft am 2026-10-01. Geschrieben aus Problemen, die auf einem laufenden OpenAI-kompatiblen Gateway diagnostiziert wurden – nicht von anderen Seiten zusammengetragen.