Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
TIUE universitetimiz qabul jamoasi o'z ishini davom ettirmoqda. TIUE universitetida ta'lim olib o'z kelajagiga mustahkam poydevor qo'yishni hohlaydigan yoshlarga talaba bo'lishlik baxtini taklif etamiz.
⌛️Qabul 30-sentabrgacha.
🇺🇿 TIUE universiteti abituriyentlarni to'lov-kontrak shartnoma asosida #kunduzgi va #sirtqi ta'lim olishga taklif etadi.
Talim yo'nalishlari:
🔷Axborot texnologiyalari
🔷 Biznes boshqaruvi
🔷 Ta'lim va ta'lim jarayonlarini boshqarish
🔷 International Foundation Programme
🇺🇿🇷🇺🇬🇧Ta'lim tili: O'zbek, Rus, Ingliz
🏃♂️🏃♀️Shoshiling, kvotalar soni cheklangan!
👨💻Batafsil ma'lumot va hujjatlar qabuli uchun telefonlar👇🏻
☎️ +99855-503-38-33 (303)
Telegram | Instagram | Website
#Kvota#Bakalavr#Kunduzgi#Qabul2025
Kunduzgi ta’lim shakli uchun qabul parametrlarining ta’lim yo‘nalishlari va o‘qitish tillari kesimidagi taqsimoti
2025/2026-o‘quv yilida O‘zbekiston Respublikasi oliy ta’lim muassasalari bakalavriatining KUNDUZGI ta’lim shakliga umumiy qabul parametrlarining ta’lim yo‘nalishlari va o‘qitish tillari bo‘yicha taqsimlanishi.
@BahoIashUz✅️- Rasmiy taʼlim yangiliklari!
📺📺
SABLYA BO'YICHA O'ZBEKISTON CHEMPIONLARI ANIQLANDI
#16mart
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
SPORTCHILARIMIZ JAHON KUBOGI BELLASHUVLARIDA ISHTIROK ETISHADI
#12mart
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
"QORAQALPOG'ISTON" JAMOASI O'ZBKISTON CHEMPIONI
#16fevral
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
RAPIRA BO'YICHA YAKKALIK DASTURIDA G'OLIBLAR ANIQLANDI
#12fevral
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
MARKAZIY OSIYO CHEMPIONATIDA SHPAGA BAHSLARI YAKUNLANDI
#17dekabr
#qilichbozlik#kunduzgi
📝Muxbir: Bahora Boymurodova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
JAHON KUBOGIDA ILK G'OLIBLAR ANIQLANDI
#14noyabr
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAMthe
📺📺
QILICHBOZLAR O'ZBEKISTON KUBOGIDA ISHTIROK ETISHMOQDA
#20oktyabr
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
SHPAGACHILARIMIZ OSIYO KUBOGIDA G'ALABA QOZONISHDI
#15sentabr
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
SAIDIBROHIM ALIMOV VA SANAM NAZAROVA OSIYO KUBOGI SOHIBI
#12sentabr
#qilichbozlik#kunduzgi
📝Muxbir: Hilola Mannopova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM
📺📺
SABLYA BO'YICHA QIZLAR JAMOAMIZ OSIYO KUBOGI G'OLIBI
#11sentabr
#qilichbozlik#kunduzgi
📝Muxbir: Shafoat Talipjanova
Bizni ijtimoiy tarmoqlar orqali kuzatib boring
📱TELEGRAM | 📱INSTAGRAM