Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Canva Premium olish
#manba / #canva
ℹ️ Agar siz dizayner bo'lmasangiz grafika elementlari (faxriy yorliqlar, vizitka, taklifnoma, logo va h.k) ni yasash qiyinchlik tug'dirishi mumkin. Bunday sheriklarimga doimo grafika saytlarni tavsiya qilardim, ulardan eng mashhuri Canva.com saytidir.
🎁@canva4u kanalida har kuni bitta havola tashlanadi, agar ulgursangiz havoladan kirib Premium olingan jamoaga qo'shilishingiz mumkin (1-rasm, ko'pincha faqat birinchi 500 kishiga beradi), agar kechikkan bo'lsangiz "sizda huquq yo'q" degan xabar (2-rasm) ga duch kelasiz (ertangi havoladan urinib ko'rsangiz bo'ladi).
😉 Kompyuter Savodxonligi kursimizda ushbu sayt bilan ishlash bo'yicha videodarslarimiz mavjud: kompyuter-savodxonligi.uz
💻 Kompyuterni birga o'rganamiz ⤵️
TelegramIYouTube
#typescript#agent#ai#aiagent#aiimage#aiimagegenerator#aitool#aitools#canva#comfyui#flux#stable_diffusion
Jaaz.app is a free, open-source creative tool like Canva that works locally on your computer, keeping your data private. It lets you create images and videos quickly using AI by simply sketching or describing what you want, without needing to write complex prompts. You can plan scenes on an unlimited canvas, collaborate in real time, and use smart AI agents to add objects or styles. It supports offline use and works on Windows and Mac. This means you get powerful, privacy-focused design and video creation without relying on the internet or risking your data security.
https://github.com/11cafe/jaaz