Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Misión cumplida 🫡
🔴#LuisaAlcalde destacó que #Morena pasó de 2.5 millones a más de 12.5 millones de militantes durante su gestión 👏🏻💪🏻🪪
https://sinlineamx.com/luisa-alcalde-deja-morena-ariadna-montiel-asume-dirigencia/
¡Les pusieron ultimátum! 🚨
🔴#LuisaAlcalde fue clara al señalar que #Morena no permitirá que familiares de los que ahora gobiernan se conviertan en candidatos ‼️👇🏻🔥
https://sinlineamx.com/morena-no-hara-alianza-verde-si-ruth-va-slp/
¡Se están peleandaaa! 🥊
🔴 El #Verde señaló a #LuisaAlcalde por "romper" las negociaciones de la reforma electoral 🤯 | ¿Qué opinas? 🤔
https://sinlineamx.com/no-hubo-acuerdos-morena-soberbia-alcalde-verde/
Así las cosas 👇🏻
🔴#LuisaAlcalde dijo sentirse honrada por ser considerada para la Consejería Jurídica... pero no ha aceptado todavía 🤨 | ¿Rechazará la propuesta de #Sheinbaum para quedarse en la dirigencia de #Morena? 😧🤔
¡Lo dejó sin dientes! 👊🏻💥
🔴#LuisaAlcalde expuso el machismo de #Loret, a quien calificó como un pseudoperiodista que parece de TV Notas ❌
https://sinlineamx.com/luisa-alcalde-tunde-loret-version-salida-morena/
Con 🍐 y 🍎
🔴 Ante la desinformación y mentiras difundidas por el prianismo, #LuisaAlcalde explicó los detalles técnicos de la solicitud de #EU sobre #RochaMoya👩🏻☝🏻
https://revistaelpolitico.com/nacional/alcalde-aclara-proceso-extradicion-caso-rocha-moya/
‼️Movida de ajedrez de la presidenta #Sheinbaum
➡️Con la invitación a #LuisaAlcalde a la Consejería Jurídica, se empieza mover el tablero político.
Le deseamos mucha suerte a #EsthelaDamián en su nuevo reto.
Por: Benjamín Paz
¡Tómala! 🥊
🔴#LuisaAlcalde advirtió que la #soberanía nacional no se negocia y señaló que la gobernadora de #Chihuahua pudo haber violado la ley ‼️👀👇🏻
https://sinlineamx.com/luisa-alcalde-acusa-antipatriotismo-oposicion-caso-cia/
#ÚltimaHora⏰
🔴#LuisaAlcalde confirmó su salida de la dirigencia de #Morena para integrarse a la #ConsejeríaJurídica de la Presidencia después de aceptar la invitación de #Sheinbaum🇲🇽🤝🏻
🗣️"Contenta de lo logrado hasta hoy al frente de Morena y feliz de seguir luchando del lado del pueblo y de la primera Presidenta de México"
🚨#ÚltimaHora🚨
🔴#Sheinbaum informó que #EsthelaDamián dejará la Consejería Jurídica para buscar la gubernatura de #Guerrero🗳️ | La presidenta pensó en #LuisaAlcalde para asumir el cargo 👩🏻🦱👀