Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
👀 Первый взгляд на кроссовки из коллаборации Jogel x Андрей Кириленко
Вчера на домашнем матче «Юты Джаз» Андрей Кириленко был замечен на кортсайде в кроссовках, которые ранее никто не видел.
На кроссовках красуется цифра 47. Этот номер был выбран не случайно. Его прозвище — АК-47, где АК — это инициалы (Андрей Кириленко), а 47 — игровой номер. Именно под номером 47 он играл за «Юту Джаз», «Миннесота Тимбервулвз» и «Бруклин Нетс». Этот же номер он носил и в ЦСКА Москва.
На подошве и внутренней стороне кроссовка видны логотипы Jogel, а на заднике айдентика коллекции «АК».
Как вам модель для повседневной носки?
#sneakers@madeinrussia
💥Ravensburger - Puzzle 3D Niños Portalápices Sneaker Super Mario
Regala diversión y creatividad esta Navidad
✅OFERTA: 14.98€
❌ Antes: 25.45€
💰Ahorras un 41%🔥
Desarrolla habilidades manuales y fomenta la concentración
👉 Haz que la diversión comience ahora
#puzzle3d#maquetas#regalos#ninos#navidad#ofertas#viral#sneakers
🛰️Oferta publicada en Cultura y Ocio
🚨 ¡CHOLLO BRUTAL! 🚨
Zapatillas PUMA Rebound V6 por solo 31,45€ 🔥
✅ Estilo clásico y versátil
✅ Unisex y super cómodas
✅ Calidad PUMA a precio de risa
¡No las dejes escapar! 👇
🔗https://amzn.to/4bXx8DM
#Chollo#Oferta#Puma#Sneakers#Moda#AmazonDeals
#Aliexpress
Air Force 1 Nike Low "Panda" black and white casual retro versatile men and women sports shoes, anti slip low top board #shoes#sneakers#Nike#Adidas#puma
Coupon 5€👈 click here
Price 40€
Buy
https://s.click.aliexpress.com/e/_EJNOf0N