Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🤝Endi birma bir tanishamiz
💁♂️ .NET Uzbekistan Community a'zosi va do'stimiz Javohir Buzrukov hozirda o'z ish faoliyatini Moliya vazirligi Axborot-hisoblash markazi UZASBO bo'limida .NET dasturchi lavozimida olib bormoqda. Habaringiz bor dotnetuz da hozirda online dars orqali ham o'quvchilar tahsil oladi va shu yerda o'qituvchilar safiga ham qo'shilgan. Judayam ko'ngli ochiq bola, savollaringiz bo'lsa bemalol so'rashingiz mumkin :) Aytgancha, do'stimiz hozirda TATU da 4-kurs da o'qiydi.
⚠️ Darsiga yozilmoqchilar bo'lsa @dotnetuz_admin ga murojaat qilinglar!
#tanishuv#onlinedars
.NET Uzbekistan Community
______
Telegram | Instagram | Youtube
Президент Шавкат Мирзиёев Тошкент шаҳридаги Шота Руставели кўчасида амалга оширилган реконструкция ишларини кўздан кечирди, автобусда юриб, йўловчилар билан самимий суҳбатлашди.
—
Президент Шавкат Мирзиёев ознакомился с результатами реконструкции улицы Шота Руставели в городе Ташкенте, проехал на автобусе и пообщался с пассажирами.
#Mirziyoyev#tanishuv#transport#BRT
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev jamoatchilik vakillari bilan birgalikda ulug‘ ayyomlar – muborak Ramazon hayiti va Navro‘z bayrami oldidan rasman o‘z eshiklarini ochgan O‘zbekistondagi Islom sivilizatsiyasi markaziga tashrif buyurdi.
—
Президент Шавкат Мирзиёев вместе с представителями общественности посетил Центр исламской цивилизации в Узбекистане, который официально открыл свои двери в преддверии великих праздников – Рамазан хайита и Навруза.
#Mirziyoyev#tanishuv#islomsivilizatsiyasi#markaz
Prezident.uz|Facebook|Instagram|YouTube|X
Bektemir tumanida Prezident Shavkat Mirziyoyev davlat tashkilotlari va jamoatchilik vakillari bilan birga yangi boqqa ko‘chat ekdi. Mahalla faollari, nuroniylar va yoshlar bilan samimiy muloqot bo‘ldi.
—
В Бектемирском районе Президент Шавкат Мирзиёев вместе с представителями государственных организаций и общественности принял участие в посадке деревьев в новом парке. Состоялась теплая беседа с представителями махаллей, представителями старшего поколения и молодежью.
#Mirziyoyev#tanishuv#Bektemir#daraxt
Prezident Shavkat Mirziyoyev Olmazor tumani Zarqaynar koʻchasida tashkil etilgan turizm va xizmat koʻrsatish obyektlari faoliyati bilan tanishdi, turist va hunarmandlar bilan muloqot qildi.
—
Президент Шавкат Мирзиёев ознакомился с деятельностью объектов туризма и сферы услуг, организованных на улице Заркайнар Алмазарского района, побеседовал с туристами и ремесленниками.
#Mirziyoyev#tanishuv#Olmazor#turizm
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev jamoatchilik vakillari bilan birgalikda ulug‘ ayyomlar – muborak Ramazon hayiti va Navro‘z bayrami oldidan rasman o‘z eshiklarini ochgan O‘zbekistondagi Islom sivilizatsiyasi markaziga tashrif buyurdi.
—
Президент Шавкат Мирзиёев вместе с представителями общественности посетил Центр исламской цивилизации в Узбекистане, который официально открыл свои двери в преддверии великих праздников – Рамазан хайита и Навруза.
#Mirziyoyev#tanishuv#islomsivilizatsiyasi#markaz
Prezident.uz|Facebook|Instagram|YouTube|X
Davlatimiz rahbari Yangi Toshkent shahrini barpo etish direksiyasiga tashrif buyurib, yirik qurilish loyihalari taqdimoti bilan tanishdi.
—
Глава нашего государства посетил Дирекцию по строительству Нового Ташкента и ознакомился с презентацией крупных строительных проектов.
#Mirziyoyev#tanishuv#YangiToshkent#taqdimot
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev Toshkent shahri ichki ishlar bosh boshqarmasi huzuridagi qoʻriqlash xizmati faoliyati bilan tanishdi.
—
Президент Шавкат Мирзиёев ознакомился с деятельностью службы охраны при главном управлении внутренних дел города Ташкента.
#Mirziyoyev#tanishuv#ichkiishlar#quriqlash
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev jamoatchilik vakillari bilan birgalikda ulug‘ ayyomlar – muborak Ramazon hayiti va Navro‘z bayrami oldidan rasman o‘z eshiklarini ochgan O‘zbekistondagi Islom sivilizatsiyasi markaziga tashrif buyurdi.
—
Президент Шавкат Мирзиёев вместе с представителями общественности посетил Центр исламской цивилизации в Узбекистане, который официально открыл свои двери в преддверии великих праздников – Рамазан хайита и Навруза.
#Mirziyoyev#tanishuv#islomsivilizatsiyasi#markaz
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev Sohibqiron Amir Temur tavallud topganining 690 yilligi munosabati bilan rekonstruksiya qilingan Temuriylar tarixi davlat muzeyiga tashrif buyurdi.
—
Президент Шавкат Мирзиёев посетил Государственный музей истории Темуридов после реконструкции по случаю 690-летия со дня рождения Сахибкирана Амира Темура.
#Mirziyoyev#tanishuv#Temuriylar#muzey
Prezident.uz|Facebook|Instagram|YouTube|X
Prezident Shavkat Mirziyoyev “Yunusobod galereyasi” savdo va biznes markaziga tashrif buyurdi hamda “Unicon-Soft” kompaniyasi loyihalari bilan tanishdi.
—
Президент Шавкат Мирзиёев посетил торговый и бизнес-центр «Юнусобод галереяси» и ознакомился с проектами компании «Unicon-Soft».
#Mirziyoyev#tanishuv#Yunusobod#markaz
Prezident.uz|Facebook|Instagram|YouTube|X
Ўзбекистон Республикаси Президенти Шавкат Мирзиёев "ИННОПРОМ. Марказий Осиё" бешинчи халқаро саноат кўргазмасига ташриф буюрди. Тадбир доирасида Россия Ҳукумати Раисининг биринчи ўринбосари Денис Мантуров бошчилигидаги делегация билан учрашувлар бўлиб ўтди.
—
Президент Республики Узбекистан Шавкат Мирзиёев посетил пятую Международную промышленную выставку «ИННОПРОМ. Центральная Азия». На полях состоялись встречи с делегацией России во главе с первым заместителем Председателя Правительства Денисом Мантуровым.
#Mirziyoyev#tanishuv#Innoprom#kurgazma
Prezident.uz|Facebook|Instagram|YouTube|X