Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
‼️OFERTA IMPERDIBLE -25%‼️#Publicidad
Taurus Citrus Compact - Exprimidor de Naranjas Electrico, Doble Sentido de Rotación, Cono Exprimidor Extra Grande, Desmontable, Apto para Lavavajillas, Almacenamiento Compacto, BPA Free, 800 ml
Enlace: https://amz.tf/PNAfUBy
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -32%‼️#Publicidad
Neutrogena Fórmula Noruega Hidratación Profunda Loción Corporal de Absorción Inmediata (2 X 750 ml), crema hidratante corporal para piel seca, crema hidratante con Pro-Ceramida y Glicerina
Enlace: https://amz.tf/ZlcxNtp
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -30%‼️#Publicidad
adidas Unisex adulto DAILY CAP, Black / White / White, XS
Enlace: https://amz.tf/jgwnPVY
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -30%‼️#Publicidad
FOREO LUNA Bálsamo desmaquillante ultranutritivo - Desmaquillante facial suave - Gel limpiador facial - Desmaquillante ojos - Vegano y cruelty-free - Sin fragancia y eco - 75 ml
Enlace: https://amz.tf/oFWoPAc
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -38%‼️#Publicidad
Taurus - Batidora de Vaso Magnum 1500, 1500W, Jarra de Cristal 1.5L, 4 Cuchillas de Acero Inoxidable Desmontables, Función Pica Hielo, Libre de BPA, Apta para Lavavajillas, 2 Velocidades y Turbo, Gris
Enlace: https://amz.tf/tdhLPXg
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -50%‼️#Publicidad
Haier Direct LED Full HD H32K702FG - 32", Smart-TV, HDR, Dolby Audio, Android 11, Google Assistant, Bluetooth 5.1, DBX TV, HDMI 2.1 x 3, sin Marcos
Enlace: https://amz.tf/jomNIkt
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -24%‼️#Publicidad
Melitta, Solo E950-222, Cafetera Superautomática con Molinillo, 15 Bares, Café en Grano para Espresso, Limpieza Automática, Personalizable, Pure Black
Enlace: https://amz.tf/lTPtMMH
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -34%‼️#Publicidad
San Miguel Especial Lager, Pack 24 Latas x 33cl, Cerveza Premium Española, Calidad Tradicional y Sabor Refrescante, 5.4% Volumen de Alcohol
Enlace: https://amz.tf/lDtKhVv
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA IMPERDIBLE -23%‼️#Publicidad
Marshall Major V Auriculares Inalámbricos Bluetooth, 100 Horas de Reproducción - Crema
Enlace: https://amz.tf/ycPjqRC
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos
‼️OFERTA 3X2‼️#Publicidad 3x 36.36€
Llévate 3 artículos por 36.36€
BIC Hybrid 5 Flex Cuchillas de Afeitar Hombre, Paquete de 8 Cuchillas de Recambio con 5 Hojas Móviles
✅Añade tres unidades a la cesta y pagarás en total: 36.36€📣
Enlace: https://www.amazon.es/dp/B09S3LHGVG?tag=ofertones0034-21
🔥Todas las promos en https://amz.tf/promos
‼️OFERTA IMPERDIBLE -41%‼️#Publicidad
Jack & Jones Trunks 3-Pack Trunks Black l Black L
Enlace: https://amz.tf/cXOjxad
📉¿Es una oferta real? --> Puedes consultar la evolución del precio del artículo pinchando este enlace
⭐️Visita nuestros canales: https://amz.tf/CanalesImperdibles
🔥 Todas las promociones en: https://amz.tf/promos