Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Всем самый летний привет!☀️Девочки,продолжая нашу рубрику вопрос-ответ(вопрос про уходовые средства ) Делюсь с Вами своими Бьюти открытиями . Топ 3 моих главных фаворита от бренда Maskoholic 💚@maskoholic_com
-Патчи(они всегда есть в моей сумке)и я ими пользуюсь абсолютно везде(лучший экспресс-уход перед съемкой,спектаклем,выходом в свет)
-энзимная пудра для глубокого очищения лица и шеи(супер штука,глубоко очищает поры даже от самого плотного тонального крема) , а за день на съёмках его накапливается тонны😅
-увлажняющая маска (вЭликолепное завершение для трапезы кожи,измождённой и изголодавшейся по гидратации🥰)
Девочки ,очень рекомендую это тройное Комбо для лица от бренда Мaskoholic . Ваша кожа будет счастлива!С этими средствами Вы всегда будете во всеоружии😎💋Ну и конечно любая Женщина со мной согласится,что лицо,как и душа,как и фигура тоже нуждается в питании и поддержке!Запомните!Не бывает некрасивых Женщин,бывают ленивые!Заботьтесь о себе и своей красоте!Ведь красота-это свобода!
#skincare#greengo#beautybar#pure
Total privacy with @huvafenfushi_maldives✨🙏🏻☀️🧘🏼♀️ Здесь всегда тепло,здесь всегда сезон: солнце, дождь, ветер, песок, птицы, еда, вода, персонал, каждый уголок острова наполнен покоем, светом, любовью, вниманием, заботой о том, чтобы Вы наполнились силами природы и ничто Вас не беспокоило, захватывающее ощущение того, что Ты один на острове, растворяешься в бирюзовых горизонтах океана, утопающих в бесконечных горизонтах неба.. Спасибо @huvafenfushi_maldives за этот волшебный отдых, приём и гостеприимство.. C’est un vrai miracle💙✨🙏🏻
#huvafenfushi#maldives#vacation#miracle#honeymoon#withmylilsis#thankyou #🙏🏻#moodoftheday#paradise#heavenonearth#hooponopono #🧘🏼♀️#balance#privacy#harmony#traveltheworld#greengo#purenature
One more day with @velassarumaldives ..💙
One more day with Mother Nature .. 🧜🏻♀️
Total balance with my Inner and Outer Amazon .. @rodasoleil✨
..Такими зелеными бывают деревья в ярких живописных снах. Таким синим был бы океан, если бы он мог достичь совершенства.. здесь сны видятся также ясно, как будущее в блюде мексиканских женщин, предсказывающих будущее у ночного костра… всем baajjaa veri hendhuneh ☀️
#velassarumaldives#velassaru
#maldives#vacation#miracle#honeymoon#withmylilsis#thankyou #🙏🏻#moodoftheday#paradise#hooponopono #🧘🏼♀️#balance#privacy#harmony#traveltheworld#greengo#purenature#amazon#myroots#mira#petitefemme