Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Green Future texnologiyalari BYD kompaniyasining texnologik innovatsiyalar orqali barqaror kelajakka sodiqligini mustahkamlaydi.
⠀
BYD kompaniyasi NEV dvigatellarini ishlab chiqarishni boshlagan birinchi kompaniya hisoblanadi. Kompaniya faqatgina ekologik toza BEV (akkumulyatorli elektromobillar) va PHEV (plug-in gibrid elektromobillari) avtomobillarini ishlab chiqarishga e'tibor qaratish uchun yonish dvigateli bilan jihozlangan transport vositalarini ishlab chiqarishni to'xtatgan.
⠀
Brend haqida batafsil ma'lumot olish uchun:
bydauto.uz
⠀
_
Технологии Green Future подкрепляют непоколебимую приверженность BYD к устойчивому будущему за счет технологических инноваций.
⠀
BYD — первый в мире производитель автомобилей на новой энергии NEV, который прекратил производство автомобилей с двигателем полного сгорания, чтобы сосредоточиться исключительно на более экологически чистых BEV (аккумуляторных электромобилях) и PHEV (подключаемых гибридных электромобилях).
⠀
Узнать о бренде больше:
bydauto.uz
⠀
#byduz#BuildYourDreams#bydauto#byduzbekistan#auto#bydauto#bydtashkent#green#EV#NEV#newenergy#electrovehicle
Shunchaki his eting...
Bugun. Ajoyib yangilik. Hayajonli fursat.
SONG PLUS DM-i.
Zamonaviy krossover qanday bo'lishi kerakligi haqidagi tasavvuringizni o'zgartiruvchi uchrashuvga oz fursat qoldi.
____
Просто почувствуйте…
Сегодня. Что-то новое. Что-то захватывающее.
SONG PLUS DM-i.
До встречи, которая изменит ваши представления о том, каким должен быть современный кроссовер, осталось совсем недолго.
#byduz#BuildYourDreams#bydauto#byduzbekistan#auto#bydauto#bydtashkent#green#EV#NEV#newenergy#electricvehicle
BYD HAN, BYD CHAZOR yoki SONG PLUS DM-i? Ularning qaysi biri sizga ko'proq yoqadi? Fikringizni izoh sifatida yozib qoldiring.
_
BYD HAN, BYD CHAZOR или SONG PLUS DM-i? Кто из них — ваш личный фаворит? Пишите в комментариях.
#byduz#BuildYourDreams#bydauto#byduzbekistan#bydauto#bydtashkent#NEV#newenergy#car#automotive#caroftheday#BYDCHAZOR#BYDHAN#SONGPLUSDM-i
Katta shahar ritmida - muhim narsalarni o'tkazib yubormang. Go'zallikka e'tibor qarating.
Misol uchun, quyosh botishiga.
BYD CHAZOR bilan quyosh botishini go'zallik bilan qarshi oling
__
В ритме большого города — не упускайте что-то важное. И обязательно замечайте прекрасное.
Например, закат.
Встречайте закат стильно с BYD CHAZOR
#byduz#BuildYourDreams#bydauto#byduzbekistan#bydauto#bydtashkent#NEV#newenergy#car#automotive#carlifestyle#caroftheday#citylife#urbanmobility
Kuchli ikkitalik yorug'lik diod faralar tunning yakunini ifodalovchi tong yulduziga o'xshaydi.
⠀
Yulduzli matritsa — taniqli dizayn va futuristik uslubning bir qismidir.
⠀
Bir-biriga tutash orqa chiroqlar yelkanlarni eslatadi va yaqinlashib kelayotgan yoqimli sayohatning tuyg'usini beradi.
BYD CHAZOR bilan hayratlangan nigohlar to'lqinidan bahramand bo'ling.
Avtomobil haqida batafsil: bydauto.uz
⠀
#byduz#BuildYourDreams#bydauto # #bydauto#bydtashkent#NEV#newenergy#car#automotive#carlifestyle#caroftheday#citylife#urbanmobility#BYDCHAZOR
_
Мощные двойные светодиодные фары подобны утренней звезде, знаменующей окончание ночи.
⠀
Звездная матрица — часть узнаваемого дизайна и футуристичности.
⠀
Сплошные задние фонари напоминают развевающиеся паруса, и дарят полное ощущение приближающегося приятного путешествия.
Ловите волны восхищенных взглядов с BYD CHAZOR.
Узнать об автомобиле больше: bydauto.uz
⠀
#byduz#BuildYourDreams#bydauto # #bydauto#bydtashkent#NEV#newenergy#car#automotive#carlifestyle#caroftheday#citylife#urbanmobility#BYDCHAZOR