Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#tezkunda “ Jinoyat va jazo”
Asar 1866-yilda yozilgan. Ammo inson kechinmalarining eski va yangisi bo’lmaganidek, roman qadri ham eskirmagan. «Kambag’allik ayb emas, biroq yo’qchilik - illat. Birinchisida inson tug’ma olijanob fazilatlarni saqlab qola oladi, ammo yo’qchilikda ularni hech qachon va hech kim saqlab qola olmaydi», asardagi personajlaridan biri bosh qaxramonga bu gapni hayotiy misollar asosida izohlab beradi. Universitetning sobiq talabasi bo’lgan Raskolnikov esa bu gapdan tegishli xulosa chiqara olmaydi. Natijada, yo’qchilikdan qutulish, tezda boyib ketish va yuqori mavqega ega bo’lish maqsadida aql bovar qilmaydigan jinoyat sodir qiladi. Fojiali jihati - qahramon o’z jinoyatini oqlaydi. Ammo hayot qonunlari adolatli jinoyatni jazosiz qo’lishiga imkon bermaydi. Ruhiy jazo jinoyatchini o’z aybiga iqror bo’lishga majbur etadi. Romanda shu mudhish qotillikning uzluksiz uqubatlari bilan birga go’zal muhabbat tasviri ham borki, u kitobxon qalbini beixtiyor junbishga keltiradi.
Kutib oling: 31.07.2025
Yangi flagman elektr SUV — shahar elektromobilligining yangi yetakchisi.
———
Встречайте: 31.07.2025
Новый флагманский электрический SUV — лидер городской электромобильности.
#BYD#TezKunda
Qarshi oling! "Yurak" nomli klipimiz ekranlarda!
⠀
12-yanvar kuni soat 19:10 da "Navo" telekanalida birgalikda tomosha qilamiz!
Ijodiy yangiligimiz sizga manzur keladi degan umiddaman.
Premyeradan keyin, izohlaringizni kutamiz!
#Premyera#TezKunda
#YulduzUsmonova#NavoTv
Yulduz.uzRasmiy sahifalari
INSTAGRAM| BOT| YOUTUBE
INSTAGRAM| OK| FACEBOOK
T.me/YULDUZ_USMONOVA
Tun sukunatida texnologiyaning yorug‘ ohangi.
Tez kunda — 31.07.2025
#BYD#TezKunda
⸻
Светлый аккорд технологий в тишине ночи.
Скоро — 31.07.2025
#BYD#СкороПремьера