Start → Hilfe

Zweimal berechnet für etwas, das wie eine Anfrage aussah

Ihr Client hat aufgegeben und wiederholt, während die erste Anfrage noch generierte. Der Anbieter hat beide fertig gemacht, also werden beide berechnet – der Timeout hat Ihr Warten abgebrochen, nicht die Arbeit.

Was Sie sehen

Two identical entries in the usage log seconds apart
You saw one error and were billed for two completions
Cost per feature is roughly double what your own counter says
It happens more on long or reasoning-heavy requests

Warum das passiert

Ein HTTP-Timeout ist eine lokale Entscheidung. Solange die Verbindung nicht tatsächlich geschlossen wird und der Server sich nicht entscheidet, bei Verbindungsabbruch abzubrechen, läuft die Generierung bis zum Ende und wird berechnet.

Automatische Wiederholungen in SDKs sind standardmäßig an und in Ihrem eigenen Logging unsichtbar. Code, der scheinbar einen Aufruf macht, kann drei machen.

Reasoning-Modelle machen das deutlich wahrscheinlicher, weil die Zeit bis zum ersten Token lang genug ist, um einen Standard-Timeout zu überschreiten, während alles normal funktioniert.

So beheben Sie es

Den Timeout über die langsamste erwartete Antwort setzenMessen Sie das p99 Ihres eigenen Verkehrs und geben Sie Spielraum. Die meisten doppelten Abbuchungen sind ein Standard von 60 Sekunden, der auf eine Antwort von 70 Sekunden trifft.
Automatische Wiederholungen bei teuren Aufrufen abschaltenSetzen Sie max_retries im Client auf 0 und wiederholen Sie bewusst, wo Sie es loggen und entscheiden können, ob sich die Arbeit lohnt.
Lange Anfragen streamenStreaming liefert schnell ein erstes Token, was Leerlauf-Timeouts verhindert und Ihnen zeigt, dass die Anfrage lebt.

Jeder Aufruf bei APICLAN wird einzeln mit eigenem Zeitstempel und eigenen Kosten geloggt. Zwei Einträge im Abstand weniger Sekunden mit demselben Modell und ähnlicher Token-Zahl sind das Erkennungszeichen, wenn eine Rechnung doppelt wirkt.

Zweimal berechnet für etwas, das wie eine Anfrage aussah

Was Sie sehen

Warum das passiert

So beheben Sie es

Verwandte Themen