Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
El tipo de cambio publicado por el BCV es el promedio ponderado resultante de las operaciones diarias de las mesas de cambio activas de las instituciones bancarias participantes.
The exchange rate published by the BCV is the weighted average resulting from the daily operations of the active exchange desks of the participating banking institutions.
@DolarBCV vía Telegram
EUR. 110,22403576
CNY. 13,51657754
TRY. 2,48007278
RUB. 1,23009227
USD. 97,31260000
Fecha Valor: Martes, 03 #Junio 2025
El tipo de cambio publicado por el BCV es el promedio ponderado resultante de las operaciones diarias de las mesas de cambio activas de las instituciones bancarias participantes.
EUR 39,63324780
CNY 5,04507291
TRY 1,13412616
RUB 0,40434152
USD 36,53440000
Fecha Valor: Martes, 04 #Junio 2024
@DolarBCV
🌞🤸 Bienvenido #junio🌚💫 con "J" de juventud 🌼
🥳 Muchas felicidades 🎊
para todos los
♊ Géminis 👥
y
♋ Cáncer 🦀
que cumplen años este mes
Acá les dejamos una ✨#frase motivacional✨🤲💖👇🏻👇👇🏼👇🏽👇🏾👇🏿
✨ Tómate tiempo para hacer cosas que hagan que tu corazón sonría 💫😌
#undiaalavez#pendientes
🌊🌼 Bienvenido #junio🌼🌊
🥳 Muchas felicidades 🎊
para todos los
♊ Géminis 👥
y
🦀 Cáncer ♋
que cumplen años este mes
Recuerda que si haces un pedido en tu cumpleaños recibes un descuento 🎂🥳
Acá les dejamos una ✨#frase motivacional✨🤲💖👇🏻👇👇🏼👇🏽👇🏾👇🏿
✨ "El éxito consiste en ir de fracaso en fracaso sin perder el entusiasmo" ✨
😌#undiaalavez#pendientes#margaritas
#TPSElSalvador | Autoridades del Gobierno de los #EstadosUnidos anunciaron la #extensión automática del Estatus de Protección Temporal (#TPS hasta #junio de 2024) para seis países, entre estos, El Salvador.
#ElSalvador🇸🇻 | ⚡️t.ly/Rux7