Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
苹果 M4 Pro / Max 款 MacBook Pro 推迟发货时间，M5 Pro / Max 机型有望 1 月 28 日发布
苹果美国官网显示，M4 Pro/Max MacBook Pro 机型供应收紧，发货时间推迟至2月6日后，部分定制机型甚至延至3月17日。这通常是新品发布前的迹象。有消息称，搭载M5 Pro/Max芯片的新款MacBook Pro可能于1月28日悄然上架官网。
标签:#apple#macbookpro
Created by RocM
官方频道：@rocCHL
官方群组：@roctech
官方合作：@rocmmbot
Apple unveils new MacBooks, AirPods
Apple unveiled its latest products, including two new MacBook Pro models that use in-house chips, a new generation of AirPods, and a $5-per-month music streaming service
#AppleEvent#MacBookPro#News#Reuters
Subscribe: http://smarturl.it/reuterssubscribe
Reuters brings you the latest business, finance and breaking news video from around the globe. Our reputation for accuracy and impartiality is unparalleled.
Get the latest news on: http://reuters.com/
Follow Reuters on Facebook: https://www.facebook.com/Reuters
Follow Reuters on Twitter: https://twitter.com/Reuters
Follow Reuters on Instagram: https://www.instagram.com/reuters/?hl=en
➖@reutersworldchannel➖
💥Hub USB Tipo C 6 en 1 DEMKICO
Convierte tu portátil en una estación de trabajo completa
✅OFERTA: 11.99€
❌ Antes: 16.99€
💰Ahorras un 29%🔥
Conexión sencilla y rápida, amplía tus posibilidades de conectividad
👉 Mejora tu experiencia digital ahora
#rebajas#hubusb#adaptadormultipuerto#macbookpro#ofertas#descuentos#tecnologia#rebajasdeinvierno
🛰️Oferta publicada en Tecnología