Hızlı başlangıç Fiyatlar

Ana sayfa → Yardım

Stream'li bir yanıtın ortasında socket hang up

TCP bağlantısı stream bitmeden kapandı. Yükteki hiçbir şey onu kimin kapattığını söylemez, bu yüzden ihtiyacınız olan ayrım bir finish_reason'ın gelip gelmediğidir – gelmediyse cevabı eksik sayın ve önbelleğe almayın.

Gördüğünüz hata

Neden oluyor

Uzun stream'ler kısa isteklerden daha fazla altyapıdan geçer: ağınız, varsa proxy, sağlayıcının uç katmanı ve model sunucusu. Bu zincirin herhangi bir yerindeki boşta kalma zaman aşımı bağlantıyı kapatır ve istemci bunu HTTP hatası değil sıfırlama olarak bildirir, çünkü HTTP yanıtı zaten 200 ile başlamıştır.

Mobil ağlar ve uykuya geçen dizüstü bilgisayarlar aynı imzayı üretir. Boşta kalma zaman aşımı modelin düşünme süresinden kısa olan bir yük dengeleyici de öyle; reasoning modellerinin buna hızlı modellerden daha sık takılmasının sebebi budur.

Düzgün bir finish_reason ile bitip ardından hata veren bir stream farklıdır: Cevap tamdır ve yalnızca kapanış başarısız olmuştur. O cevabı kullanmak güvenlidir.

Nasıl düzeltilir

  1. Tamamlanma sinyali olarak finish_reason'ı kaydedin"Stream bitti"yi başarı saymayın. Bir yanıtı yalnızca finish_reason geldiğinde tamam olarak işaretleyin; aksi halde yeniden deneyin ya da kesilmiş olarak bildirin.
  2. Stream'i değil, isteği yeniden deneyinStream'li bir completion'da devam noktası yoktur. Baştan yeniden deneyin, tercihen sonraki denemenin daha çabuk bitmesi için daha düşük bir max_tokens ile.
  3. İstemci ve proxy zaman aşımlarını birlikte yükseltinÖndeki bir proxy önce kapatıyorsa yalnızca istemci zaman aşımını yükseltmek hiçbir şey yapmaz. İkisi de beklediğiniz en yavaş yanıtı aşmalıdır.
Yarıda ölen bir stream, üretilmiş token'lar için yine de ücretlendirilir – iş yapılmıştır. APICLAN kullanım kaydınız tam olarak kaç tane olduğunu gösterir; yarım kalmış bir cevabı hiç başlamamış olandan böyle ayırırsınız.

İlgili konular

OpenAI uyumlu bir API'yi çağırırken Unexpected token '<' hatası401 invalid API key – anahtar doğru göründüğü halde hata veriyorsa

Son kontrol: 2026-10-01. Canlı bir OpenAI uyumlu ağ geçidinde teşhis edilen sorunlardan yazılmıştır, başka sitelerden derlenmemiştir.