Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
MPA creative media agency
MPA creative media agency asoschisi Nafosatxon Tojiboeva Xalqaro toifadagi mutaxassis. Sakkiz yil davomida XXR xamda Buyuk Britaniyada taxsil olgan. Dunyoning eng yirik Media kompaniyalarida tajriba to'plab bugungi kunda O'zbekistonda turli loyihalar olib bormoqda.
Kreativ kontent asosida ishlangan video roliklar
"Ayol va biznes - o'sishga qodirmiz!" forum kunida namoyish qilindi.
#mpa#production
🌐MPA Creative Media Agency
xamda bir qancha xaqaro tashkilotlar bilan hamkorligida tashkilashtirilgan
«Ayol va biznes» Gala Awards 2022 tadbiri tantanali marosimini Lux Tv telekani orqali tomosha qilishingiz mumkin.
#media#bizhaqimizda#mpa
👉Telegram| Instagram | Veb sahifa
🌐MPA Creative Media Agency
xamda bir qancha xaqaro tashkilotlar bilan hamkorligida tashkilashtirilgan
«Ayol va biznes» Gala Awards 2022 tadbiri tantanali marosimida Uzreport telekani nigohida olingan reportajni taqdim etamiz
#media#bizhaqimizda#mpa
👉Telegram| Instagram | Veb sahifa
🌐MPA Creative Media Agency
xamda bir qancha xaqaro tashkilotlar bilan hamkorligida tashkilashtirilgan
«Ayol va biznes» Gala Awards 2022 tadbiri tantanali marosimida Uzreport telekani nigohida olingan reportajni taqdim etamiz
#media#bizhaqimizda#mpa
👉Telegram| Instagram | Veb sahifa
🌐MPA Creative Media Agency
xamda bir qancha xaqaro tashkilotlar bilan hamkorligida tashkilashtirilgan
«Ayol va biznes» Gala Awards 2022 tadbiri tantanali marosimida My5 telekani nigohida olingan reportajni taqdim etamiz
#media#bizhaqimizda#mpa
👉Telegram| Instagram | Veb sahifa
MPA creative media agency📽Production
🔴 Kreativ kontent asosida ishlangan video roliklar
"Ayol va biznes - o'sishga qodirmiz!" forum kunida namoyish qilindi.
🟡 Agentlik nafaqat yirik miqiyosli tadbirlar tashkil etish balki shahsiy brendni rivojlantirishga qaratilgan roliklar tayorlash bilan ham shug'ulanadi.
#mpa#production#servis
🇺🇿Brand Xalqaro Biznes Jurnalining Ishonchli Hamkorlaridan biri Centrum Air kompaniyasiga 2023 yil davomidagi barakali hamkorlik uchun o'z minnadorligimizni bildiramiz.
🇬🇧 We would like to express our gratitude to @centrumair one of the Trusted Partners of Brand International Business Magazine, for the blessed cooperation throughout 2023.
🇷🇺 Мы хотели бы выразить благодарность @centrumair одному из доверенных партнеров международного бизнес журнала Brand, за плодотворное сотрудничество на протяжении 2023 года.
#bussiness#we#project#mpa
#Italia#Sicilia
❗️Frana di Niscemi: indagati il ministro Nello #Musumeci (#FdI), il presidente Renato #Schifani (#FI) e gli ex presidenti Raffaele #Lombardo (#MpA) e Renato #Crocetta (sinistra).
@OsservatorioItaliano
MPA Креатив Медиа Агентлигимиз турли йўналиш ва мавзулар тематикасида семинар-теренинг, конференсиялар ва маросимлар ташкил этишда давом этади.
Сизда хам ғоя бўлса-ю уни амалга оширишга жамо бўлмаса биз бунда кўмаклашамиз.
Тадбирни ўтказишда яқиндан ёрдам берган @groundzerouz, @turkistansu_official ва бошқа жамоа вакилларига ўз мннадорлигимизни билдирамиз!
#brand#seminar#pr#marketing#personalbranding#mpa#grow
#Italia#Europee
Sono 16 i partiti ammessi alle elezioni europee, nessuna ha dovuto raccogliere le 150.000 firme necessarie, vediamoli insieme:
-#M5S
-#PD-#A1MDP-#DemoS
-#Lega-#MNS
-#FI (Insieme a #UdC-#MpA-#IDeA-#CP-#NPSI-#EpI-#RC-#PLI)
-#FdI (Insieme a #DI-#DiventeràBellissima)
-#LS (#SI-#PRC-#AET-#ÉViva)
-#EV (#FdV-#Possibile)
-#PiùE-#IiC (Insieme a #PSI-#PRI)
-#PdF-#AP
I partiti sottostanti sono stati ammessi anche senza avere né rappresentanza in parlamento né senza aver raccolto firme
-#PC (Partito Comunista)
-#CPI-#DU (CasaPound-Destre Unite)
-#FN (Forza Nuova)
-#PPI (Popolari Per l'Italia)
-#PPIT (Partito Pirata)
-#PAI (Partito Animalista Italiano)
-#PPA (Popolo Partite IVA)
Nelle tre regioni #ValleDAosta, #TrentinoAltoAdige e in #FVG troviamo diverse alleanze:
-#ApE con il PD (#UV-#UVP-#ALPE-#EPAV-#SA)
-#SVP-#PATT e #SSk con FI
-#LAltoAdigeNelCuore con FdI
-#VGV con #EV
-#TK con #PiùE
@NewsDalMondoo