Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🍱Ninja MAX PRO
#ninja
✅Oferta: 99,99€❌PVP: 149,99€
Uno de los mejores modelos de la marca NINJA. Gracias a su diseño doble, permite cocinar 2 alimentos diferentes al mismo tiempo. Tiene una capacidad total de 6,2L, 6 programas diferentes e incluye un sensor digital de cocción, y ofrece temperaturas de hasta 240ºC.
➡️https://l.oo34.net/yIHokfF
📣 Síguenos: @compradiccion
📱Síguenos en TikTok: https://www.tiktok.com/@compradiccion
🌎compradiccion.com
🎒 ¡Martes de súper chollos para casa y escapadas!
Hoy destacamos la freidora de aire premium Ninja MAX a un precio increíble (149€) y la famosísima mochila de cabina por solo 14,9€ para no pagar extras en el avión. Para el hogar, no te pierdas el mega pack de 126 cápsulas Fairy casi a mitad de precio y la sartén Magefesa por menos de 9€. ¡Y ojo al polo Jack & Jones rebajado y al carro todoterreno ideal para tus aventuras, la playa o la compra! 🍳✈️
👇 Selección del día:
🔥 Ninja MAX Freidora de aire por 149€ (-35% dto)
🔗https://amzn.to/4cS0bJQ
🔥 Mochila Viaje Cabina Avion por 14,9€ (-42% dto)
🔗https://amzn.to/4be0nlv
🔥 Jack & Jones Noos Polo por 14,9€ (-25% dto)
🔗https://amzn.to/47pr18P
🔥 Fairy 126 Cápsulas De Lavavajillas por 19,9€ (-43% dto)
🔗https://amzn.to/4bgcqyN
🔥 MAGEFESA Sartén Acero esmaltado por 8,8€ (-30% dto)
🔗https://amzn.to/4siYFFA
🔥 Carro de Mano Todoterreno por 56€ (-19% dto)
🔗https://amzn.to/4bKGrH0
#Ninja#MochilaCabina#Hogar#OfertasAmazon#Ahorro