Ana sayfa → Yardım

Cloudflare arkasında istekler tam 100 saniyede kesiliyor

Gördüğünüz hata

• error code: 524
• Requests consistently fail at 100-101 seconds, never at 90 or 120
• The same request succeeds when sent directly to the origin IP
• A streaming response stops mid-sentence with no error in the server log
• read ECONNRESET / IncompleteRead after a long pause

Neden oluyor

Ele veren şey kesinliktir. Ağ sorunları ve kaynak sunucu zaman aşımları dağınıktır – bir seferinde 40, diğerinde 180 saniyede başarısız olurlar. Bir proxy sınırı her seferinde aynı sayıda tetiklenir. Hatalarınız 100-101 saniyede toplanıyorsa kendi altyapınıza bakmayı bırakın.

Süre yanıt gövdesinin ilk baytına kadar ölçülür; stream'in bu kadar farklı davranmasının sebebi budur. stream: true ile ilk token genellikle bir iki saniyede gelir ve saat sınıra yaklaşmaz bile. Stream olmadan proxy tüm completion'ı bekler – uzun bir reasoning zinciri ya da 4K bir görsel 100 saniyeyi kolayca geçebilir.

Bu, kafa karıştırıcı bir belirtiyi de açıklar: İstek sunucuda başarılı görünür. Üst sağlayıcı bitirmiş, kaynak sunucu 200 kaydetmiş, token'lar ücretlendirilmiştir. Yalnızca proxy ile istemci arasındaki halka kopmuştur. Sağlayıcınızın kullanım kaydında, istemcinizin hiç almadığı tamamlanmış ve ücretlendirilmiş bir istek görürsünüz.

Sebebin bu olduğunu doğrulayın

Hatanın süresini ölçün. Tam sayı teşhisin kendisidir:

time curl -s -o /dev/null -w '%{http_code} %{time_total}s\n' \
  'YOUR_BASE_URL/chat/completions' \
  -H 'Authorization: Bearer YOUR_KEY' \
  -H 'Content-Type: application/json' \
  -d '{"model":"YOUR_MODEL","messages":[{"role":"user","content":"Write a 3000 word essay."}]}'

524 ile birlikte yaklaşık 100s bunu doğrular. Aynı isteği "stream": true ile çalıştırın – o tamamlanıyorsa, yanlış olan tek şey bu sınırdı.

Nasıl düzeltilir

1. Stream'i açınTek başına en etkili çözüm ve genellikle tek satırlık bir değişiklik. İstek gövdesinde stream: true; tüm büyük SDK'lar destekler. İlk token saniyeler içinde gelir, 100 saniyelik pencere hiç açılmaz.
2. Proxy'den geçmeyen bir uç nokta kullanınBazı sağlayıcılar tam da bu sebeple CDN'yi atlayan ayrı bir API ana bilgisayar adı yayınlar. Sizinki de öyleyse, uzun süren çağrıları ona yönlendirin, web sitesini proxy'li adda bırakın.
3. İstek başına işi sınırlayınmax_tokens değerini modelin pencere içinde bitirebileceği bir değere ayarlamak, görünmez bir kesintiyi öngörülebilir bir durmaya çevirir. Uzun bir üretimi birkaç çağrıya bölmek de aynısını yapar ve yeniden denemesi daha kolaydır.
4. İstemci zaman aşımını yükseltip sorunu çözülmüş saymayınBağlantı sizden önceki bir halkada kesiliyor. 300 saniyelik bir istemci zaman aşımı aynı hatayı 200 saniye sonra üretir — yalnızca belirtiyi yeniden üretmeyi yavaşlatır.

İlgili konular

Son kontrol: 2026-10-01. Canlı bir OpenAI uyumlu ağ geçidinde teşhis edilen sorunlardan yazılmıştır, başka sitelerden derlenmemiştir.