Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Так хорошо..Так вкусно пахнут волосы..лесом,бузиной,горной рекой и жженой шишкой.. Так хочется сейчас обнять весь Мир только потому, что Вы – его часть..Спасибо Вам,Вам и Вам Всем за эти восхитительные эмоции!Чувствуете как становится тепло?А как хрустят Ваши рёбра?Я крепко обнимаю!Ну а сейчас Вы тоже начнете пахнуть жжёной шишкой,горной рекой,бузиной,лесом..чувствуете?Теперь Ваша очередь обнять Мир,он уже готов,он ждёт Вас с распростертыми объятиями,позвольте этому случится✨🤍💫Мира..Вам..🕊️
Photo @[email protected]
MUAH @zhanna.muah
Style @veronikaserous
#photooftheday#moodoftheday#purelove#heavenonearth#femme#lamour#всемхорошегодня#всемотличногонастроения#photography#element#planetearth#mothernature#positivevibes#actress#fashion#model#petitefemme#mira#благодарю #🕊️ #🤍
Подобно Нилу,Гангу или Амазонке,я знаю,куда иду сегодня …На моих компасах…
…Доброе утро Сургут ..✨🤍🪽
Я желаю Вам самых мощных наполнений сегодня…Изобилия во всех сферах и пространствах..Приятного аппетита,кто сейчас теряет крошки изо рта на экран аппаратуры😂кормя тело,не забывайте кормить Вашу Душу🫶🏻Пища для души ..это важная часть в жизни человека..мы работаем благодаря тем,кто был до нас..будь то первый день на Вашем поприще ,или последний..до нас были предшественники..будут последователи..всегда помните,каждый день приходя сюда ..туда..(где бы Вы ни были),попытайтесь сделать это или то чуть лучше ,чем было вчера ..хотя бы немного,небольшое усилие..они накопятся за годы,что Вы тут/здесь/там проведете ,и Вы покинете Ваше место учений и практик с образованием ,новыми навыками и перспективами,Вы будете сыты ,но при этом и сможете насыщать всех тех,кто окажется подле Вас…сделайте так,чтобы Ваше поприще собрало не просто три звёзды Мишлена ,а целую галактическую россыпь..вихрь сияющих светил ,возглавляющих особенной …старшей из Плеяд…которую можно было бы смело назвать Вашим именем..будучи шагая по Земле…Вы дочитали до этой строчки?Тогда приветствую Вас Звезда…Звёзды🌟
Photo @linalinaliali
Muah @karelinamakeup
Style @svetaiver
#goodmorning#positivevibes#blackandwhite#photography#photooftheday#moodoftheday#blackandwhitephotography#purelove#heavenonearth#mira#мирославакарпович#fashion#actress#actrice#model#casual#emotions#energy#saturday#sister#adventure#women#lamour#haveaniceday
С первым днём весенней поры Вас ..Вас ..и Всех -Всех..Вас!Ем помидор,баклажан,вдыхаю запах пучка свежевымытой кинзы…Чудесно..ну просто восхитительно же!!!!!Здравствуй..здравствуй ещё одна самая лучшая весна!Будьте счастливы ,здоровы,гармоничны,излучайте свой свет..и никогда не теряйте детскую веру в то, что всё ,что Вы делаете, то это на и во благо,ведь когда в душе царит покой,то все задуманные великие дела обречены на успех !Просто живите ,просто радуйтесь..делайте счастливыми Ваших близких. Просто любите..любите просто ..Мира ..Вам..🤍
Обнимаю всех и вся от одного краешка Планеты до другого!Берегитесь,во мне столько любви,что хватит чуть больше ,чем на всю Планету ❤️Хотите попасть под горячую руку?!😂Тащщщите Ваши рёбра!Выходите на улицу!Сегодня тчк 😂😉
#спасибородители#весна#первыйденьвесны#свесной#пора#весенняяпора#purelove#march#март#heavenonearth#lamour#planetearth#mothernature#photooftheday#photography#moodoftheday#positivevibes#lady#actress#actrice #38 #always16
#форэваянг
#доброеутро
Любовь не строится на словах..
Любовь строится на доверии,
на добровольных и взаимных усилиях,
на непоколебимом уважении…
Это не про то чтобы быть идеальным,
Это про то чтобы ..быть ..
И если Вы верите в это,значит Вы цените любовь за то,чем она на самом деле является..
Не позволяйте искре погаснуть..
Не упускайте мелочей..
Любовь -это дар,ради которого стоит жить…
Каждый Божий день ..🕊️
It’s not about being perfect…
It’s about being present…🫶🏻
#goodmorningworld#goodmorning#bonjour#lamour#purelove#blueheavenonearth#planetearth#mothernature#sun#positivevibes#moodoftheday#reels#video#femme#mira#мирославакарпович#actress#actrice#model#newera#energy#magic#мира#haveaniceday#всемотличногонастроения#holidays#may#spring #2025