Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
¿Fuego amigo? 🤔
🔴 Los senadores del #Verde destacaron que es importante llegar hasta las últimas consecuencias para conocer el impacto ambiental del derrame en el golfo ⚠️🛢️🌊
https://sinlineamx.com/alicia-barcena-partido-verde-pide-comparecencia-derrame/
¡Se están peleandaaa! 🥊
🔴 El #Verde señaló a #LuisaAlcalde por "romper" las negociaciones de la reforma electoral 🤯 | ¿Qué opinas? 🤔
https://sinlineamx.com/no-hubo-acuerdos-morena-soberbia-alcalde-verde/
¡Se vale soñar! 😶
🔴 El #Verde ya tiene gallo para 2030 en #CDMX y hasta proyección de votos en las elecciones de 2027 🗳️ | ¿Logrará sus metas? 🤔
https://sinlineamx.com/jesus-sesma-buscara-jefatura-de-gobierno-verde/
¿Comienza la crisis? 🤔
🔴 Los militantes que abandonaron el #Verde en #Guanajuato acusaron "falta de rumbo" y "ausencia de trabajo territorial" 🚨 | ¿Qué opinas? 👇🏻
https://revistaelpolitico.com/estados/desbandada-pvem-400-militantes-renuncian-guanajuato/
La moneda está en el aire 👀
🔴#Morena mostró su disposición para mantener la alianza con #Verde y #PT… pero ¿será que estos partidos acepten ir contra el nepotismo y sus intereses? 🗳️🤔
https://sinlineamx.com/morena-mantendra-alianza-verde-pt-2027-alcalde/
Lo mismo de siempre 🙄
🔴 El #Verde aseguró que "acompaña" el proyecto de #Sheinbaum, pero que busca "consolidarse" en #Jalisco🗳️🦜 | ¿Qué opinas? 🤔
https://sinlineamx.com/partido-verde-jalisco-ira-solo-2027/
Vaya, vaya 🤔
🔴 El #Verde no aceptará el estatuto antinepotismo de #Morena y buscará en solitario la gubernatura de #SLP🗳️🦜| ¿Qué opinas? 👇🏻
https://sinlineamx.com/partido-verde-rompe-alianza-morena-2027-slp/
¡Los tiene en el piso! 💣💥
🔴#Morena supera 2 a 1 al #PAN rumbo a 2027, mientras #PRI, #Verde y #PT se hunden en lo más bajo de las preferencias 📉 | ¿Qué opinas?
¡No se andan con juegos! ☝🏻 | #LoMásLeído👀
🔴#Morena no permitirá el nepotismo y ya le puso un alto al #Verde si quiere avanzar en sus intenciones de lanzar a #RuthGonzález para la gubernatura ⚠️🗳️ | ¿Qué opinas? 🤨
Nota completa aquí 👉🏻https://n9.cl/5m1ml
💥Pantalones Cortos Chinos Ajustados JACK JONES
Estilo y comodidad para tus looks de invierno
✅OFERTA: 15.0€
❌ Antes: 34.99€
💰Ahorras un 57%🔥
Diseño moderno, corte regular y ajuste perfecto
👉 Renueva tu armario ahora
#pantalonescortos#modahombre#rebajas#tendencia#descuentos#verde#cinturamedia#jackjones
🛰️Oferta publicada en Moda y Belleza
#ÚltimaHora🚨
🔴#ManuelVelasco adelantó que #Morena, #Verde y #PT votarán a favor del #PlanB en los general, pero que algunos artículos podrían reservarse en lo particular, entre ellos la revocación de mandato 🗳️📄 | ¿Qué opinas? 👇🏻