Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Tashkent International University of Education universitetida “Yuksalish” va O‘zbekistondagi Huawei kompaniyasi "Bir million daraxt” loyihasi doirasida eko-aksiyasi o’tkazildi.‼️
🔰Shu munosabati bilan joriy yilning 28-oktabr kuni, TIUE universitetida, “Yuksalish” umummilliy harakati @uzb.yuksalish , O‘zbekistondagi Huawei kompaniyasi #HuaweiUzbekistan va ekoko‘ngillilar ishtirokida #BirMillionDaraxt loyihasi doirasida navbatdagi obodonlashtirish va ko‘chat ekish aksiyasini bo’lib o‘tdi.
🔰TIUE universiteti, “Yuksalish” umummilliy harakati, O‘zbekistondagi Huawei kompaniyasi va bir qator nodavlat-notijorat tashkilotlari xodimlari daraxt va butalar ekish bo‘yicha navbatdagi "Yashil makon" aksiyani o‘tkazish maqsadida, jami 200 tup daraxt va butalar ekildi.
🌳🌳🌳🌳🌳🌳🌳
В Ташкентском международном университете образования (TIUE) в рамках проекта"Bir million daraxt” движения "Юксалиш" и компании "Huawei" в Узбекистане была проведена эко-акция‼️
❇️ В связи с этим в университете TIUE в рамках проекта #BirMillionDaraxt с участием общенационального движения "Юксалиш" @uzb.yuksalish , компании "Huawei" #HuaweiUzbekistan в Узбекистане и эковолонтёров прошла очередная акция по благоустройству и посадке саженцев.
❇️Университет TIUE, общенациональное движение "Юксалиш", компания "Huawei" в Узбекистане и представители ряда негосударственных некоммерческих организаций в рамках акции "Yashil makon" осуществили посадку более 200 деревьев и саженцев.
Tashkent International University of Education universitetida “Yuksalish” va O‘zbekistondagi Huawei kompaniyasi "Bir million daraxt” loyihasi doirasida eko-aksiyasi o’tkazildi.‼️
🇺🇿 Hurmatli Prezidentimiz Sh. M. Mirziyoyev tashabbusi bilan mamlakatimiz bo'ylab tabiiy resurslarni saqlash va ekologik xilma-xillikni ta'minlashga qaratilgan "Yashil makon" umummilliy loyihasi boshlandi.
🔰Shu munosabati bilan joriy yilning 28-oktabr kuni, TIUE universitetida, “Yuksalish” umummilliy harakati @uzb.yuksalish , O‘zbekistondagi Huawei kompaniyasi #HuaweiUzbekistan va ekoko‘ngillilar ishtirokida #BirMillionDaraxt loyihasi doirasida navbatdagi obodonlashtirish va ko‘chat ekish aksiyasini bo’lib o‘tdi.
🔰TIUE universiteti, “Yuksalish” umummilliy harakati, O‘zbekistondagi Huawei kompaniyasi va bir qator nodavlat-notijorat tashkilotlari xodimlari daraxt va butalar ekish bo‘yicha navbatdagi "Yashil makon" aksiyani o‘tkazish maqsadida, jami 200 tup daraxt va butalar ekildi.
🌳🌳🌳🌳🌳🌳🌳
В Ташкентском международном университете образования (TIUE) в рамках проекта"Bir million daraxt” движения "Юксалиш" и компании "Huawei" в Узбекистане была проведена эко-акция‼️
🇺🇿По инициативе президента нашей страны Ш. М. Мирзиёева стартовал общенациональный проект "Yashil makon", направленный на сохранение природных ресурсов и обеспечения экологического разнообразия.
❇️ В связи с этим в университете TIUE в рамках проекта #BirMillionDaraxt с участием общенационального движения "Юксалиш" @uzb.yuksalish , компании "Huawei" #HuaweiUzbekistan в Узбекистане и эковолонтёров прошла очередная акция по благоустройству и посадке саженцев.
❇️ Университет TIUE, общенациональное движение "Юксалиш", компания "Huawei" в Узбекистане и представители ряда негосударственных некоммерческих организаций в рамках акции "Yashil makon" осуществили посадку более 200 деревьев и саженцев.
🌱Toshkentda ko'chat ekish aksiyasi o'tkaziladi
"Bir million daraxt"loyihasi doirasida “Summit Motors Central Asia” XK MCHJ hamkorligida ekologiyani yaxshilash, hududlarni ko‘kalamzorlashtirish va ijtimoiy mas’uliyatni oshirish maqsadida Toshkent shahrida ko‘chat ekish tadbiri o‘tkaziladi.
Barchani ushbu ezgu tashabbusda faol ishtirok etishga chorlaymiz!
Joyi: Millatlararo munosabatlar qo'mitasi hududi
Vaqti: 28-mart 11:00
#Yuksalish#BirMillionDaraxt
📝 Telegram sahifamizga obuna bo'ling - @uzbyuksalish