Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Javohir Sindarov Toshkentda tantanali kutib olindi
Kiprda o‘tkazilgan shaxmat bo‘yicha “Nomzodlar turniri”da g‘alaba qozongan Javohir Sindarov Toshkentga qaytib keldi. Sportchimiz Oʻzbekiston Respublikasi Bosh vaziri, mamlakat shaxmat federatsiyasi raisi Abdulla Aripov, Oʻzbekiston Respublikasi Prezidentining sport boʻyicha vakili Odil Abduraxmanov, shuningdek, Sport vazirligi va MOQ rahbariyati, katta sport jamoatchiligi tomonidan “Humo” xalqaro aeroportida tantanali kutib olindi.
—
Жавохир Синдаров торжественно встречен в Ташкенте
Победитель Турнира претендентов по шахматам, прошедшего на Кипре, Жавохир Синдаров вернулся в Ташкент. В международном аэропорту «Хумо» столицы его торжественно встретили Премьер-министр Республики Узбекистан, председатель Федерации шахмат страны Абдулла Арипов, представитель Президента Республики Узбекистан по вопросам спорта Одил Абдурахманов, руководство Министерства спорта и Национального Олимпийского комитета и спортивное сообщество.
#Shaxmat#KutibOlish
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Yoshlar Para Osiyo oʻyinlarida umumjamoa hisobida birinchi oʻrinni egallagan Oʻzbekiston delegatsiyasi tantanali kutib olindi
7-14-dekabr kunlari BAAning Dubay shahrida yoshlar Para Osiyo oʻyinlari boʻlib oʻtdi. Mazkur musobaqada yurtimiz sharafini munosib himoya qilib, 99 ta oltin, 57 ta kumush va 41 ta bronza, jami 197 ta medal bilan umumjamoa hisobida birinchi oʻrinni egallagan Oʻzbekiston delegatsiyasi bugun Toshkentga yetib keldi.
—
Торжественно встречена делегация Узбекистана, занявшая первое место на юношеских Параазиатских играх
С 7 по 14 декабря в городе Дубай (ОАЭ) прошли юношеские Параазиатские игры. На этих соревнованиях сборная Узбекистана достойно защитила честь страны, завоевав 99 золотых, 57 серебряных и 41 бронзовую медаль — всего 197 наград. Благодаря этому результату наши пара-атлеты заняли первое место в общекомандном зачёте. Сегодня делегация Узбекистана вернулась в Ташкент.
#Parasport#KutibOlish
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Ko‘ksaroy qarorgohida O‘zbekiston Respublikasi Prezidenti Shavkat Mirziyoyevning taklifiga binoan rasmiy tashrif bilan kelgan Serbiya Respublikasi Prezidenti Aleksandr Vuchichni kutib olish marosimi o‘tkazildi.
—
В резиденции «Куксарой» состоялась церемония встречи Президента Республики Сербия Александра Вучича, прибывшего с официальным визитом по приглашению Президента Республики Узбекистан Шавката Мирзиёева.
#Mirziyoyev#marosim#Serbiya#kutibolish
Prezident.uz|Facebook|Instagram|YouTube|X
FIDE Jahon kubogining eng yosh chempioni Javohir Sindorov tantanali kutib olindi
Hindistonda oʻtgan shaxmat boʻyicha FIDE Jahon kubogida gʻalaba qozongan hamyurtimiz Javohir Sindorov poytaxtimizga qaytib keldi. Grossmeysterimizni Oʻzbekiston Respublikasi Bosh vaziri Abdulla Aripov boshchiligidagi Sport vazirligi, MOQ, Yoshlar ishlari agentligi va mamlakat shaxmat federatsiyasi rahbariyati, katta sport jamoatchiligi tantanali kutib oldi.
—
Торжественно встречен самый молодой чемпион Кубка мира FIDE Джавохир Синдоров
Победитель Кубка мира FIDE по шахматам, прошедшего в Индии, наш соотечественник Джавохир Синдоров вернулся в Ташкент. Гроссмейстера торжественно встретили руководители Министерства спорта, НОК, Агентства по делам молодёжи и Федерации шахмат Узбекистана во главе с Премьер-министром Абдуллой Ариповым, а также представители спортивного сообщества.
#Shaxmat#KutibOlish#JahonKubogi
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Ko‘ksaroy qarorgohida O‘zbekistonga rasmiy tashrif bilan kelgan Finlyandiya Respublikasi Prezidenti Aleksandr Stubbni tantanali kutib olish marosimi bo‘lib o‘tdi.
—
В резиденции «Куксарой» состоялась торжественная церемония встречи Президента Финляндской Республики Александра Стубба, совершающего официальный визит в Узбекистан.
#Mirziyoyev#marosim#Finlyandiya#kutibolish
Prezident.uz|Facebook|Instagram|YouTube|X
Ko‘ksaroy qarorgohida O‘zbekiston Respublikasi Prezidenti Shavkat Mirziyoyevning taklifiga binoan rasmiy tashrif bilan kelgan Serbiya Respublikasi Prezidenti Aleksandr Vuchichni kutib olish marosimi o‘tkazildi.
—
В резиденции «Куксарой» состоялась церемония встречи Президента Республики Сербия Александра Вучича, прибывшего с официальным визитом по приглашению Президента Республики Узбекистан Шавката Мирзиёева.
#Mirziyoyev#marosim#Serbiya#kutibolish
Prezident.uz|Facebook|Instagram|YouTube|X
🫡 Kech bo'lganda kutilmaganda tezkor topshiriq bilan tayyorlangan zastavka va banner dizayni))
#Shaxmat#Kutibolish#TezkorTopshiriq
⚡️@ikdesignuz • buyurtma uchun
Ko‘ksaroy qarorgohida O‘zbekiston Respublikasi Prezidenti Shavkat Mirziyoyevning taklifiga binoan rasmiy tashrif bilan kelgan Serbiya Respublikasi Prezidenti Aleksandr Vuchichni kutib olish marosimi o‘tkazildi.
—
В резиденции «Куксарой» состоялась церемония встречи Президента Республики Сербия Александра Вучича, прибывшего с официальным визитом по приглашению Президента Республики Узбекистан Шавката Мирзиёева.
#Mirziyoyev#marosim#Serbiya#kutibolish
Prezident.uz|Facebook|Instagram|YouTube|X