Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Be soft. Do not let the world make you hard. Do not let pain make you hate. Do not let the bitterness steal your sweetness. Take pride that even though the rest of the world may disagree, you still believe it to be a beautiful place..🤍
Video/Photo Créateur @konstantin.rivera 🤍
MUAH @richy_yuliana🕊
Style @olgasheremeta🦢
#chakras#mantra#mantramonday#gipsy#balance#levitation#purelove#heavenonearth#hooponopono#petitefemme#mira#moodoftheday#video#lagoon
Total privacy with @huvafenfushi_maldives✨🙏🏻☀️🧘🏼♀️ Здесь всегда тепло,здесь всегда сезон: солнце, дождь, ветер, песок, птицы, еда, вода, персонал, каждый уголок острова наполнен покоем, светом, любовью, вниманием, заботой о том, чтобы Вы наполнились силами природы и ничто Вас не беспокоило, захватывающее ощущение того, что Ты один на острове, растворяешься в бирюзовых горизонтах океана, утопающих в бесконечных горизонтах неба.. Спасибо @huvafenfushi_maldives за этот волшебный отдых, приём и гостеприимство.. C’est un vrai miracle💙✨🙏🏻
#huvafenfushi#maldives#vacation#miracle#honeymoon#withmylilsis#thankyou #🙏🏻#moodoftheday#paradise#heavenonearth#hooponopono #🧘🏼♀️#balance#privacy#harmony#traveltheworld#greengo#purenature
#доброеутро
Нежность Сэлинджера+эмоциональность Гао Синцзяня+внешние данные Гун Ли+современность Вирджинии Депант=Миан Миан Конфетка
By Les Créatuers :
Photo @konstantin.rivera
MUAH @richy_yuliana
Style @olgasheremeta
After all my performances ,I jumped on a plane and spent the next two weeks diving into few projects that gripped me.I’m looking forward to sharing more about the process ,and the wonderful humans I shared these experiences with plane .Still traveling ,reflecting,cataloging all that I am appreciative of.Longest I’ve been road bound for some time,reaping all the rewards .Sweet discovery .More to come..🫶🏻
#hooponopono#thankyou#iloveyou#mylilmuse#tika#blackandwhite#photooftheday#photography#moodoftheday#heavenonearth#hippie#green#travelling#muse#petitefemme#mira#purelove#haveaniceday#sunvibes Обняла!😁🙏🏻
One more day with @velassarumaldives ..💙
One more day with Mother Nature .. 🧜🏻♀️
Total balance with my Inner and Outer Amazon .. @rodasoleil✨
..Такими зелеными бывают деревья в ярких живописных снах. Таким синим был бы океан, если бы он мог достичь совершенства.. здесь сны видятся также ясно, как будущее в блюде мексиканских женщин, предсказывающих будущее у ночного костра… всем baajjaa veri hendhuneh ☀️
#velassarumaldives#velassaru
#maldives#vacation#miracle#honeymoon#withmylilsis#thankyou #🙏🏻#moodoftheday#paradise#hooponopono #🧘🏼♀️#balance#privacy#harmony#traveltheworld#greengo#purenature#amazon#myroots#mira#petitefemme
Fresh morning energy boost from Mother Nature..💚🌱☀️🙏🏻
..Среди нас есть те,кто говорят «мне скучно.Позвольте доказать Вам обратное!Мир неповторим каждую секунду,запоминайте его разным,не упускайте его,знакомьтесь с ним каждый раз как первый!Он единственный такой в своем роде!Впитывайте в себя все его краски!Дышите им,ешьте глазами,слушайте ушами,впускайте в сердце и душу..и не отпускайте никогда!Доброе утро Мир!Доброе утро Дорогие МираПланетяне!
P.S.-отмечайте всех,кому бы Вы хотели пожелать доброго утра и природу на завтрак🕊️🤍😉
#goodmorning#sundayfunday#sundayvibes#mothernature#planetearth#heavenonearth#hooponopono#purelove#video#videooftheday#adventure#ancestors#sister#sisterhood#доброеутро#всемотличногонастроения#positivevibes#levitation#beauty#nature#travelling#petitefemme#mira#мирославакарпович#женщинамира#sun#water#air#earth#fire