Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔵🏥 Los Dodgers están colocando a Blake Snell en la lista de lesionados debido a cuerpos sueltos en su codo izquierdo, según Katie Woo.
Snell solo hizo una apertura después de regresar de la fatiga en el hombro.
#Dodgers#Snell
🗞 | t.me/MLB_Daily
🚨🔵Que Blake Snell esté listo para el Día de Apertura "no se ve como una certeza" debido a la profunda carrera de playoffs de 2025 que dejó su brazo "agotado", informa Jack Harris del California Post.
El dos veces ganador del Premio Cy Young reconoció él mismo lo "cansado" y "agotado" que estaba su brazo en las semanas y meses posteriores a la Serie Mundial, y ha ralentizado su programa de lanzamientos en preparación para 2026.
"Estaba feliz de poder lanzar todo el tiempo, pero fue difícil".
"Siento que estoy haciendo lo correcto. Me siento bien". Snell estuvo en la banca durante una gran parte de la temporada regular con una lesión en el hombro. En los playoffs lanzó 5 aperturas más una aparición de relevo en el Juego 7 de la Serie Mundial.
"En la postemporada, di todo lo que tenía para eso. Pero al inicio de la primavera, tendré que ser paciente y dejar que mi cuerpo llegue al 100%".
#️⃣#Dodgers#Snell
🗞 | t.me/MLB_Daily
👀🔵 Blake Snell ha permitido 1 o 0 carreras en el 48.7% de sus aperturas en la MLB a lo largo de su carrera (incluyendo la postemporada).
📊 Ese es el porcentaje más alto de cualquier lanzador con al menos 200 aperturas en temporada regular + postemporada en la era moderna (desde 1901).
📰 Vía Opta STATS
#️⃣#Snell#Stats#MLBHistory
🗞 | t.me/MLB_Daily
🛰 Dave Roberts y los Dodgers están preparando su rotación para la #WorldSeries👀
Juego 1: Blake Snell 🔵
Juego 2: Yoshinobu Yamamoto 🔵
#️⃣#PlayOffs25#Dodgers#Snell#Yamamoto
🗞 | t.me/MLB_Daily