Ana sayfa → Yardım

Concurrency limit exceeded for user, please retry later – ne anlama gelir

Gördüğünüz hata

• 429 Too Many Requests
• Concurrency limit exceeded for user, please retry later
• A batch script that works with 1 worker and fails with 20
• An agent that fails only when it starts several subtasks at once
• Two apps on the same account that break each other

Neden oluyor

Mesaj, birçok API aktarma hizmetinin üzerinde çalıştığı açık kaynaklı ağ geçidi sub2api'den gelir; bu yüzden birden fazla sağlayıcıda karşınıza çıkabilir. Limit anahtar başına değil, kullanıcı hesabı başınadır: aynı hesaptaki iki anahtar aynı havuzu kullanır. sub2api varsayılanı aynı anda 5 istektir.

Ağ geçidi altıncı isteği hemen reddetmez. Onu sıraya alır ve bir yer boşalır boşalmaz başlatır. Bunu 14 Ekim 2026'da kendi ağ geçidimizde limit 5 iken ölçtük: aynı anda 10 istek – 10'u da başarılı, en yavaşı 8,3 saniye; aynı anda 25 istek – 25'i de başarılı, en yavaşı 18,8 saniye. Fazla istekler başarısız olmak yerine bekledi. Yani bu hatayı gördüğünüzde limiti bir an için değil, bir isteğin zamanında yer bulamayacağı kadar uzun süre aşmışsınızdır.

Bu yüzden çok sayıda kısa istekte değil, uzun isteklerde çıkar. Akışlı (streaming) bir yanıt, bir dakika düşünen bir akıl yürütme modeli ya da bir aracı bekleyen bir ajan yerini bu süre boyunca tutar. Aynı anda beş tanesi hesabı doldurur; arkadaki her şey vazgeçene kadar bekler.

Sebebin bu olduğunu doğrulayın

On aynı isteği aynı anda gönderin ve sürelere bakın:

seq 1 10 | xargs -P 10 -I{} curl -s -o /dev/null \
  -w '%{http_code} %{time_total}s\n' \
  'YOUR_BASE_URL/chat/completions' \
  -H 'Authorization: Bearer YOUR_KEY' \
  -H 'Content-Type: application/json' \
  -d '{"model":"YOUR_MODEL","messages":[{"role":"user","content":"Count from 1 to 150."}]}'

İlk birkaçı hızlı dönüp gerisi sonraki dalgalarla geliyorsa, o dalgalar sizin limitinizdir. Bazıları bu mesajla 429 dönüyorsa sıra taşmıştır – hiçbiri dönmeyene kadar -P değerini düşürün. Hesabınızın gerçekten taşıyabildiği paralellik budur.

Nasıl düzeltilir

1. İstemcide açık istekleri sınırlayınAPI çağrısının etrafına hesap limitiniz boyutunda bir semafor koyun: Python'da asyncio.Semaphore(5), Node'da p-limit. Daha yavaş bir yeniden deneme döngüsü işe yaramaz; limit açık istekleri sayar, yalnızca daha az açık istek çözer.
2. Hesaptaki tüm anahtarları sayınBir kodlama ajanı, bir sohbet uygulaması ve bir betik aynı hesabı kullanıyorsa aynı limiti de paylaşır. Ağır toplu işlere ayrı bir hesap verin ya da diğerleri boştayken çalıştırın.
3. Bunu yeniden deneyin – bekleme ve rastgelelikleBoş bakiye 429'undan farklı olarak bu, süren istekler biter bitmez kendiliğinden geçer. Bir iki saniye bekleyin, işçileriniz aynı anda denemesin diye rastgele bir kayma ekleyin ve tekrar deneyin.
4. Ajanların içindeki paralelliği düşürünAlt görev başlatan ajan araçları bir anda çok sayıda istek açabilir. Çoğu, ayarlarında aynı anda çalışan görev ya da işçi sayısını sınırlamanıza izin verir; bunu hesap limitine eşit ya da altında tutun.
5. Daha yüksek limiti yalnızca sürekli yük için isteyinİşiniz gerçekten tüm gün daha fazla açık isteğe ihtiyaç duyuyorsa sağlayıcınızdan isteyin. Ani yükler için kendi tarafınızda sıra tutmak, daha yüksek limitten daha ucuz ve hızlıdır.

İlgili konular

Son kontrol: 2026-10-14. Canlı bir OpenAI uyumlu ağ geçidinde teşhis edilen sorunlardan yazılmıştır, başka sitelerden derlenmemiştir.