Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
😎
😎
😎
😎
😎
😎
😎
#aksiya
Qaynoq aksiya — naqd 9 xil mavsumiy mahsulotlarga🔥
Eng kerakli va ayni mavsumga mos mahsulotlar — endi yanada qulay narxlarda!
📅 8-9-10-aprel kunlari “Mittivoy”ning barcha filiallarda boʻlib oʻtadi
Faqat 3kun! Imkoniyatni qoʻldan boy bermang 🔥
📌Kitoblarga -50% chegirma kerakmi?
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
#aksiya
✅Navbatdagi targ‘ibot aksiyasi Qoraqalpog‘iston Respublikasida o'tkazildi
Nukus shahridagi savdo majmualaridan birida bo‘lib o‘tgan “Mening solig‘im – yurtim iqboli” mavzusidagi aksiya nukusliklar xotirasida uzoq saqlanib qoladigan bo‘ldi.
Mazkur aksiya fuqarolar oʻrtasida soliq madaniyatini yuksaltirish va asosiysi, yashirin iqtisodiyotning oldini olishga qaratilganligi bilan ahamiyatlidir.
Savdo majmuasidagi gavjum muhit — har bir xarid, har bir chek, har bir so‘m kelajakka qo‘yilgan kichik, ammo ma’noli hissa ekani anglandi.
Ayrimlar uchun arzimasdek koʻringan xarid chekini talab qilishning ahamiyati, yashirin iqtisodiyot, xususan, savdo tushumlarini yashirish, soliqdan qochish va norasmiy bandlikning salbiy oqibatlari hamda xarid cheki uchun joriy qilingan keshbek, soliq imtiyozlari va yengilliklar, soliqlarning turlari va muddatlari xususidagi savollarga toʻgʻri javob bergan fuqarolarga Qoraqalpog‘iston Respublikasi soliq boshqarmasining maxsus sovgʻalari topshirildi.
Тelegram|Facebook|Youtube|Instagram|X|Threads
😎
😎
😎
😎
😎
😎
😎
#aksiya
“Mittivoy” 6 yoshda 🎊 Shu munosabat bilan oʻyinchoqlar boʻlimidan mega aksiya 🎈
📅 25-26-27-aprel kunlari “Mittivoy”ning barcha filiallarda boʻlib oʻtadi
Faqat 3 kun! Imkoniyatni qoʻldan boy bermang 🔥
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎
😎
😎
😎
😎
😎
😎
#aksiya
“Mittivoy”ning 6 yilligi munosabati bilan super aksiya 😍
Eng kerakli va ayni mavsumga mos mahsulotlar — endi yanada qulay narxlarda!
📅 25-26-27-aprel kunlari “Mittivoy”ning barcha filiallarda boʻlib oʻtadi
Faqat 3 kun! Imkoniyatni qoʻldan boy bermang 🔥
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎😎😎😎😎😎😎
#aksiya
1+1 aksiyaning 3-kuni! 🔥
Belgilangan vitrinadagi bahorgi ustki kiyimlar bilan tanishamiz ✅
Shoshiling! Bunday imkoniyatni qoʻldan boy bermang ‼️
📌1+1 aksiya bahorgi kiyimlarga
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎😎😎😎😎😎😎
#aksiya
1+1 aksiyaning 3-kuni! 🔥
Chaqaloqlaringiz uchun belgilangan vitrinadagi bahorgi kiyimlar bilan tanishamiz ✅
Shoshiling! Bunday imkoniyatni qoʻldan boy bermang ‼️
📌1+1 aksiya bahorgi kiyimlarga
📌1+1 aksiya bahorgi kiyimlarga
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎😎😎😎😎😎😎
#aksiya
1+1 aksiyaning oxirgi 4-kuni! 🔥
Belgilangan vitrinadagi bahorgi kiyimlar bilan tanishamiz ✅
Shoshiling! Bunday imkoniyatni qoʻldan boy bermang ‼️
📌1+1 aksiya bahorgi kiyimlarga
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎
😎
😎
😎
😎
😎
😎
#aksiya
1+1 aksiyaning oxirgi 4-kuni! 🔥
Belgilangan vitrinadagi bahorgi oyoq kiyimlar bilan tanishamiz ✅
Shoshiling! Bunday imkoniyatni qoʻldan boy bermang ‼️
📌1+1 aksiya bahorgi kiyimlarga
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish
😎
😎
😎
😎
😎
😎
😎
#aksiya
Bitta oling, ikkinchisi bepul! 🔥
Belgilangan vitrinadagi bahorgi kiyim va oyoq kiyimlar uchun 1+1 aksiya ✅
Shoshiling, aksiyaning oxirgi 4-kunidan xarid qilishga ulguring 🔥
📌1+1 aksiya bahorgi kiyimlarga
📍Manzilimiz📍Lokatsiya
🕘 9:00 dan 23:00 gacha
☎️ +998905116466
💵1% KESHBEK
📱Telegram📱Instagram📱YouTube📑Ishga kirish