Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💥Ofertas para Bucarest💥
🔘1: 🛫 Santa Cruz de Tenerife - 🛬 Bucarest (Rumanía) por 152€: del 03 al 10 de abril (PVP medio: 406.12 €)
🔘2: 🛫 Madrid - 🛬 Bucarest (Rumanía) por 45€: del 28 de abril al 09 de mayo (PVP medio: 120.16 €)
Vuelos con salida desde #Santa Cruz de Tenerife y #Madrid
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Burdeos💥
🔘1: 🛫 Santa Cruz de Tenerife - 🛬 Burdeos (Francia) por 42€: del 15 al 21 de marzo (PVP medio: 134.34 €)
🔘2: 🛫 Valencia - 🛬 Burdeos (Francia) por 26€: del 02 al 06 de marzo (PVP medio: 73.76 €)
Vuelos con salida desde #Santa Cruz de Tenerife y #Valencia
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Oporto💥
🔘1: 🛫 Madrid - 🛬 Oporto (Portugal) por 18€: del 28 de julio al 04 de agosto (PVP medio: 77.0 €)
🔘2: 🛫 Barcelona - 🛬 Oporto (Portugal) por 23€: del 27 de julio al 03 de agosto (PVP medio: 84.1 €)
🔘3: 🛫 Santa Cruz de Tenerife - 🛬 Oporto (Portugal) por 71€: del 25 de julio al 08 de agosto (PVP medio: 170.68 €)
Vuelos con salida desde #Madrid, #Barcelona y #Santa Cruz de Tenerife
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Varsovia💥
🔘1: 🛫 Santa Cruz de Tenerife - 🛬 Varsovia (Polonia) por 44€: del 23 al 26 de mayo (PVP medio: 169.42 €)
🔘2: 🛫 Madrid - 🛬 Varsovia (Polonia) por 27€: del 24 al 29 de mayo (PVP medio: 102.62 €)
🔘3: 🛫 Alicante - 🛬 Varsovia (Polonia) por 39€: del 09 al 16 de mayo (PVP medio: 102.24 €)
Vuelos con salida desde #Santa Cruz de Tenerife, #Madrid y #Alicante
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Oporto💥
🔘1: 🛫 Santa Cruz de Tenerife - 🛬 Oporto (Portugal) por 75€: del 19 de abril al 03 de mayo (PVP medio: 197.3 €)
🔘2: 🛫 Palma de Mallorca - 🛬 Oporto (Portugal) por 40€: del 01 al 02 de abril (PVP medio: 97.64 €)
Vuelos con salida desde #Santa Cruz de Tenerife y #Palma de Mallorca
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Budapest💥
🔘1: 🛫 Santa Cruz de Tenerife - 🛬 Budapest (Hungría) por 126€: del 27 de abril al 01 de mayo (PVP medio: 384.52 €)
🔘2: 🛫 Málaga - 🛬 Budapest (Hungría) por 55€: del 07 al 21 de abril (PVP medio: 151.14 €)
🔘3: 🛫 Madrid - 🛬 Budapest (Hungría) por 44€: del 28 de abril al 12 de mayo (PVP medio: 110.32 €)
Vuelos con salida desde #Santa Cruz de Tenerife, #Málaga y #Madrid
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Varsovia💥
🔘1: 🛫 Madrid - 🛬 Varsovia (Polonia) por 28€: del 20 al 27 de mayo (PVP medio: 120.7 €)
🔘2: 🛫 Alicante - 🛬 Varsovia (Polonia) por 40€: del 09 al 16 de mayo (PVP medio: 122.0 €)
🔘3: 🛫 Barcelona - 🛬 Varsovia (Polonia) por 45€: del 07 al 11 de mayo (PVP medio: 132.64 €)
🔘4: 🛫 Santa Cruz de Tenerife - 🛬 Varsovia (Polonia) por 80€: del 23 al 30 de mayo (PVP medio: 192.86 €)
Vuelos con salida desde #Madrid, #Alicante, #Barcelona y #Santa Cruz de Tenerife
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫
💥Ofertas para Burdeos💥
🔘1: 🛫 Palma de Mallorca - 🛬 Burdeos (Francia) por 27€: del 03 al 06 de abril (PVP medio: 84.0 €)
🔘2: 🛫 Barcelona - 🛬 Burdeos (Francia) por 36€: del 11 al 15 de abril (PVP medio: 96.14 €)
🔘3: 🛫 Santa Cruz de Tenerife - 🛬 Burdeos (Francia) por 60€: del 19 al 26 de abril (PVP medio: 144.52 €)
Vuelos con salida desde #Palma de Mallorca, #Barcelona y #Santa Cruz de Tenerife
Más en:https://t.me/chollosdevuelos✅
El que no corre 🏃 vuela 🛫