Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🤵🏻Introducción a las Finanzas✨
#Udemy
DESCRIPCIÒN:
🔱Finanzas personales con énfasis en inversiones.
El curso esta dividido en 32 lecciones didácticas con ejemplos de la vida real sobre las Finanzas que nos rodean, al final del curso tendrás las herramientas necesarias para hacer un análisis general de las finanzas que te rodean.🔱
Robótica con Matlab y Arduino Modelo y Simulación | #Udemy
Robotics, Arduino, Encoders, Control PID, Cinemática, Simulación 3D, Robots móviles, aéreos y manipuladores
Crea un Blog y Vive de tu Blog | #Udemy
Crea un blog para poder desarrollar tu propio negocio con un método a través de la experiencia de los que ya lo hacen.
Cómo ser un Freelancer Exitoso para Diseño y Desarrollo Web | #Udemy
Aprende todo para ser Freelancer: Obtener Clientes, Definir Precios y Nicho, Cómo Ganar más y Administrar Proyectos Web
Curso de Alemán A1 - Alemán básico para principiantes | #Udemy
Aprende lo básico de alemán con música y ejercicios para poder certificarte con el nivel A1 de alemán
🔰 Credit : #Udemy is an online learning and teaching marketplace with over 100000 courses and 24 million students. Learn programming, marketing, data science and more.
🔻 Join us 🔻
➕@Photoshop
➣ Order here @ads_operator