Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
@redfoxuz / #vacancy 053 / #grafikdizayner
"Mega job" yollash agentligi qurilish kompaniyasi uchun Grafik Dizayner kerak!
💰Maosh: 3,500,000 dan;
Batafsil: http://redfox.uz/mega-job-yollash-agentligi-qurilish-kompaniyasi-uchun-grafik-dizayner-kerak/
____________________________RU____________________________
Рекрутинговое агентство " Mega job" в поисках Графического Дизайнера для строительной компании:
💰 Заработная плата: от 3,500,000;
📝Подробно:http://redfox.uz/mega-job-yollash-agentligi-qurilish-kompaniyasi-uchun-grafik-dizayner-kerak/
@redfoxuz / #vacancy 051 / #grafikdizayner
Webmaster IT kompaniyasiga ishchi xodim kerak!
💰Maosh: 1 000 000 dan boshlanadi
Batafsil:http://redfox.uz/webmaster-it-kompaniyasiga-ishchi-xodim-kerak/
@redfoxuz / #vacancy 050 / #grafikdizayner
"KAHRAMAN-GROUP" kompaniyasi sizni grafik dizaynerlar ijodiy guruhiga taklif qiladi!
💰Maosh: Kamida 1.500.000 (va undan yuqori) dan, kelishilgan holda.
Batafsil: http://redfox.uz/kahraman-group-kompaniyasi-sizni-grafik-dizaynerlar-ijodiy-guruhiga-taklif-qiladi/
❇️Grafik dizayner
💵 Maosh: Tajribaga qarab (1000$)
Ish turi: Ofis ishi
Manzil: Farg'ona
Kompaniya: WeaYaa - GameDev kompaniyasi
- Ish haqida ma‘lumot: Koreya o'yin kompaniyasi O'zbekistonda o'z filialini ochilmoqda. Ushbu kompaniyaga o'yin uchun dizayn ishlab chiquvchi dizaynerlar kerak;
- Ish tajribasi: sketching, o'yin personajlari yaratish va grafik planshetda chizish qobiliyati;
- Photoshop, illustrator yoki sketching dasturlarida ishlash talab etiladi
📨 Aloqa: @creatornsl
#grafikdizayner#dizayn#fergana
——————————
👉@freelanceteam_uz