Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💥Los San Diego Padres están finalizando un acuerdo para ser vendidos al multimillonario de capital privado José Feliciano, también copropietario del Chelsea F.C., y a su esposa Kwanza Jones. (Jared Diamond, WSJ)
Se espera que rompa el récord de la MLB para un equipo que se vende, con una valoración de 3,9 mil millones de dólares.
#Padres
🗞 | t.me/MLB_Daily
🚆🔔 Los Padres y el jardinero Nick Castellanos acordaron un contrato de un año, según el insider de MLB Network, Jon Heyman.
#️⃣#Padres#Castellanos
🗞 | t.me/MLB_Daily
🚆🟡 Los Padres están firmando un contrato de 3 años y 75 millones de dólares con Michael King, según múltiples informes.
#️⃣#Padres#King
🗞 | t.me/MLB_Daily
🚆🟡 Michael King ha rechazado su opción mutua con los Padres y probará la agencia libre, según Kevin Acee.
👀 ¿Dónde firmará esta temporada baja?
#️⃣#Padres#King
🗞 | t.me/MLB_Daily
🏥🟡 Los Padres anuncian que Yu Darvish se sometió a una cirugía de reparación del ligamento colateral cubital el pasado miércoles.
❌ Se espera que Darvish se pierda toda la temporada 2026.
#️⃣#Padres#Darvish
🗞 | t.me/MLB_Daily
🟡 Tomó un tiempo, pero el agente libre Lucas Giolito ha firmado con un equipo, uniéndose a los Padres en un contrato de un año con una opción mutua para 2027.
El jugador de 31 años registró una ERA de 3,41 en 145 entradas con los Red Sox el año pasado.
#Padres#Giolito
🗞 | t.me/MLB_Daily