Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🌊 Абстрактные минималистичные животные моря — акула, кит, дельфин и черепаха
Набор ярких морских обитателей в стиле low poly станет отличным украшением интерьера, декораций или идеальным дополнением арт-проекта!
🔗Скачать:Printables
#️⃣ Категория:#Sculptures@anzar3d
🖨3D модели | Max
🦅 Абстрактные минималистичные птицы (Low Poly)
Набор геометрически упрощённых птиц, выполненный в стиле low poly. Отличное решение для творческих проектов, анимации или печати фигурок.
🔗Скачать:Printables
#️⃣ Категория:#Sculptures@anzar3d
🖨3D модели | Max
🕯️ СОЗДАЙ ИДЕАЛЬНЫЕ СВЕЧИ
Создай уникальные свечи с помощью реалистичной трехмерной формы! Создавай дизайнерские изделия ручной работы — идеальны для подарков и декора интерьера.
🔗Скачать:Printables
#️⃣ Категория:#Sculptures@anzar3d
🖨3D модели | 3D Маркетплейс | Max
🎨 Низкополигональный волк воющего дизайна Low Poly Howling Wolf 2.0 (FIX)
Уникальная декорация без поддержек — идеальный выбор для начинающих любителей 3D-печати! Отличное качество печати и стильный дизайн обеспечат восторг от результата.
🔗Скачать:Printables
#️⃣ Категория:#Sculptures@anzar3d
🖨3D модели | 3D Маркетплейс | Max
🌿 Абстрактный минимализм животных — Лесной набор (Low Poly, 4 модели)
Минималистичные животные леса в стиле Low Poly — идеальный выбор для дизайна интерьеров, визуализации природы и креативных проектов.
🔗Скачать:Printables
#️⃣ Категория:#Sculptures@anzar3d
🖨3D модели | 3D Маркетплейс | Max
If you don't create family and raise children, then you are cheating nature. Life is recycling.
You have to reincarnate your ancestors the way you were reincarnated from them.
This great high relief Sculpture won best entry of Uyo/Calabar zone in 2018 Life in my City Art Festival (LIMCAF) in Enugu State, Nig.🇳🇬
Is still one of my best in Sculptural art.
#AfricanArt#contemporaryArt#Sculptures#HighRelief#Art#Histories
#ARTisLIFE#Culture#Nature#LIMCAF2018
@Usoro'sArtGallery/Studio. Follow Usoro Otobong on #Facebook for more..