Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Этот нежный мир-сновидение — дело рук прекрасной Дарьи, самой настоящей #supergirl
Помимо удивительного восприятия окружающей действительности и изящной ее подачи Дарья создает утонченные наряды, рекомендую подписаться на канал проекта @white_bone_people — это настоящий эликсир для души визуала.
Инстаграм и редкие истории daria_daffy настолько прекрасны, что я не понимаю, почему там не 800 миллионов подписчиков!
* рубрика #supergirl — не рекламная интеграция (на этом канале нет рекламы), рассказываю о девушках от души. Кто, если не мы, поддержит друг друга?
** ну а инстаграм принадлежит Meta, Meta на территории РФ признана экстремистской организацией
Нужно было догадаться сделать это раньше, но я догадалась только сейчас: встречайте новую рубрику #supergirl
И первая супердевушка, о которой следует рассказать — кинематографистка и автор видео Алиса Кучинская.
Ее профиль в соцсетях — произведение искусства, в нем вы найдете глубину, свободу, эхо горных вершин, благородные оттенки и искренность.
Сториз Алисы — маленькие фрагменты кино, а сама она невозможная красавица.
Алиса не блогер, появляется время от времени с порцией красоты и {наверное} уходит жить свою жизнь.
* фото и видео из аккаунта Алисы в instagram
** instagram принадлежит Meta, Meta на территории РФ признана экстремистской организацией
Camiseta de Supergirl de tirantes, para todas las superchicas 💪
#CamisetasMolonas#Camiseta#Supergirl
https://www.milideaspararegalar.es/producto/camiseta-de-supergirl/
💻www.milideaspararegalar.es
Camiseta de Supergirl de tirantes, para todas las superchicas 💪#CamisetasMolonas#Camiseta#Supergirl
https://www.milideaspararegalar.es/producto/camiseta-de-supergirl/
💻www.milideaspararegalar.es
Camiseta de Supergirl de tirantes, para todas las superchicas 💪#CamisetasMolonas#Camiseta#Supergirl
https://www.milideaspararegalar.es/producto/camiseta-de-supergirl/
💻www.milideaspararegalar.es
Body bebé de Superman o Supergirl. Para los pequeños súpers. #BodyBebé#Superman#Supergirl
https://www.milideaspararegalar.es/producto/body-bebe-superman/
💻www.milideaspararegalar.es