Hızlı başlangıç Fiyatlar

Ana sayfa → Yardım

Uzun API isteklerinde 524 zaman aşımı

524, modelden değil API'nin önündeki bir ters proxy ya da CDN tarafından üretilir. Kaynak sunucu yanıtın ilk baytını sabit bir süre içinde – genellikle 100 saniye – göndermediğinde tetiklenir.

Gördüğünüz hata

Neden oluyor

Önemli ayrıntı şu: Saat toplam süreyi değil, ilk bayta kadar geçen süreyi ölçer. Stream'li bir yanıt neredeyse anında veri göndermeye başlar, bu yüzden sınıra hiç takılmadan dakikalarca sürebilir. Uzun bir düşünme aşaması olan stream'siz bir istek ise tamamen bitene kadar hiçbir şey göndermez – ve kesilen tam da bu türdür.

Hatanın rastgele görünmesinin sebebi bu. Aynı istem, şans eseri hızlı bittiğinde başarılı olur, model daha uzun düşündüğünde başarısız olur; sizin değiştirdiğiniz bir şeyle değil, düşünme derinliğiyle ilişkilidir.

Sebebin bu olduğunu doğrulayın

Aynı isteği stream açık ve kapalı olarak çalıştırın. Biri hayatta kalıp diğeri kalmıyorsa, sebebi buldunuz:

# non-streaming — vulnerable to the time-to-first-byte limit
curl -sS -X POST 'YOUR_BASE_URL/chat/completions' \
  -H 'Authorization: Bearer YOUR_KEY' \
  -H 'Content-Type: application/json' \
  -d '{"model":"MODEL","stream":false,"messages":[...]}'

# streaming — first byte arrives in well under a second
  -d '{"model":"MODEL","stream":true,"messages":[...]}'

Stream ayrıca çok daha iyi bir hata davranışı sağlar: Ortada bir şey ters giderse tüm çağrıyı kaybetmek yerine o ana kadarki çıktı elinizde kalır.

Nasıl düzeltilir

  1. Stream'i açınBu, neredeyse her iş yükü için sorunu tamamen çözer ve tek satırlık bir değişikliktir. Çoğu SDK ve ajan aracı zaten varsayılan olarak stream kullanır.
  2. Sağlayıcı sunuyorsa doğrudan bir uç nokta kullanınBazı sağlayıcılar tam da bu sınırdan kaçınmak için CDN'yi atlayan bir API sunucusu yayınlar. Uzun stream'siz çağrılar kaçınılmazsa, bu tam olarak bunun içindir.
  3. İşi bölünTek bir çağrı bir şey üretmeden önce gerçekten dakikalarca düşünmeye ihtiyaç duyuyorsa, onu kontrol noktası koyabileceğiniz aşamalara bölmek genellikle daha ucuz ve daha güvenilirdir.
APICLAN'da stream'li istekler hiçbir zaman tamponlanmaz, bu yüzden etkilenmezler. Uzun stream'siz çağrılar için böyle bir sınırı olmayan doğrudan bir uç nokta var: https://api.apiclan.us/v1.

İlgili konular

OpenAI uyumlu bir API'yi çağırırken Unexpected token '<' hatası401 invalid API key – anahtar doğru göründüğü halde hata veriyorsa

Son kontrol: 2026-10-01. Canlı bir OpenAI uyumlu ağ geçidinde teşhis edilen sorunlardan yazılmıştır, başka sitelerden derlenmemiştir.