Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🧹Dyson faqat fen yoki "pilesoschi" emas!
🎧 OnTrac deb nomlangan ushbu quloqchinni o'zingizga yoqqandek ranglarda yig'ib olishingiz mumkin. Ammo, umumiy 4 ta: Aluminum, Copper, Ceramic Cinnabar va Black Nike ranglarida taqdim etilarkan.
ℹ️ USB Type-C portiga tushadigan raqamli quloqchin 6 Hz dan 21 000 Hz gacha bo'lgan tovushlarni yangrata oladi. To'liq quvvati bilan 55 soatgacha ishlab berolarkan.
💸 Narxi $499,99 ekan. Arziydimi?
➡️#dyson | Birinchi raqamli IT-Blog
Еда становится более технологичной продукцией, чем фены и пылесосы
#Dyson сегодня — один из крупнейших сельскохозяйственных производителей в Англии. Компания обрабатывает примерно 13,5 тыс. га земли в различных частях страны под проектом цифровизации от xFarm Technologies. Недавно в 📍Каррингтоне была запущена супер-современная теплица для выращивания 🍓клубники на 10,5 га.
Вряд ли авторы модной теории XX-го века об ограниченности земли и других ресурсов при растущем населении представляли себе такое.
@foodoutlook
✂️ ¡Jueves de marcas premium y precios mini!
Hoy tenemos los dos extremos: el lujo del Dyson Supersonic con un descuento raro de ver (31% menos) y el chollo absoluto de una camiseta Levi's por solo 11,4€. Además, básicos para el hogar como Ariel y una cafetera Monix de inducción por menos de 10€. ¡Aprovecha! 💇♀️👕
👇 Selección del día:
🔥 Dyson Supersonic Origin Secador de Pelo por 299€ (-31% dto)
amzn.to/4rL12jA
🔥 LEVIS Camiseta Fields of Rye por 11,4€ (-54% dto)
amzn.to/3MA1Etz
🔥 Monix Inducción Cafetera Italiana por 9,9€ (-44% dto)
amzn.to/40a5bSk
🔥 Xiaomi 22.5W Power Bank 20000mAh por 16,9€ (-15% dto)
amzn.to/4qt9qDz
🔥 Plancha Vapor Vertical 2 en 1 por 19,9€ (-43% dto)
amzn.to/4r6zLbw
🔥 Ariel Detergente Lavadora 60 Lavados por 14€ (-32% dto)
amzn.to/4reZcry
#Dyson#Levis#Hogar#OfertasAmazon#Ahorro
🎧Dyson has released its first headphones. Advanced noise cancellation. 55 hours of audio without recharging. And the most inexplicable feature - more than 2000 color options.
#Dyson#Headphones#Technology
MARKHEMIST
Would you try them?