Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Qadrli yurtdoshlar,
Milliy Olimpiya qoʻmitasi Sizlarni bosh qomusimiz – Oʻzbekiston Respublikasi Konstitutsiyasi qabul qilinganining 33 yilligi bilan samimiy qutlaydi.
—
Дорогие соотечественники!
Национальный Олимпийский комитет искренне поздравляет Вас с 33-й годовщиной принятия Конституции Республики Узбекистан.
#Konstitutsiya
👉@OlympicUz
olympic.uz I YouTube I Instagram I
#konstitutsiya
Konstitutsiya-demokratik jamiyat, farovon hayot, barqaror taraqqiyot garovidir!
Qadrli yurtdoshlar, Sizlarni mamlakatimiz uchun ulkan ahamiyatga ega bo‘lgan O‘zbekiston Respublikasi Konstitutsiyasi qabul qilingan kun — milliy bayram bilan chin qalbdan tabriklaymiz!
Konstitutsiya — yurtimizda tinchlik va barqarorlik, inson huquq va erkinliklari, demokratiya va adolatning mustahkam poydevoridir. U mamlakatimiz taraqqiyoti, fuqarolarimiz farovonligi va yurt tinchligi yo‘lida asosiy qonun sifatida xizmat qilib kelmoqda.
Shu qutlug‘ kunda barchangizga
mustahkam sog‘liq,
tinch va farovon turmush,
insonparvarlik va mehr-oqibat tilaymiz.
Bosh huquqimiz qabul qilinganining 33 yilligi barchamizga muborak bo‘lsin!
👇Bizni kuzating:
🌐web-sayt |
📷instagram |
👉telegram |
▶️youtube |
💬facebook
#Konstitutsiya
📚 Har bir mamlakatda shunday bir muhim kitob borki, bu kitob butun mamlakatga va alohida insonlarga ham tegishli bo‘lgan muhim ma’lumotlar bor. Bizning O‘zbekistonimizning ham shunday kitobi bo‘lib, bu kitob O‘zbekiston Respublikasining Konstitutsiyasi deb ataladi.
🏛 Toshkent Kimyo xalqaro universiteti Namangan filiali Pedagogika va psixologiya kafedrasi Magistratura mutaxassisligi MPRI_N_23 UA guruhida “Designing and modeling of the educational process “fanidan o‘qituvchi NURALIYEVA KAMOLA hamda guruh sardori Jo‘raboyeva Shohruzalar tomonidan Konstitutsiyamizning 32 yilligi munosabati bilan.
"Konstitutsiya - baxtimiz qomusi"deb nomlangan ochiq dars tashkil etildi.
🌐Website I ✅Telegram I 🌐Instagram I 📹Youtube I
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasining 3️⃣1️⃣-moddasi.
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook
#konstitutsiya
📚Konstitutsiya Yuridik klinika talabalari talqinida🙂
📌O'zbekiston Respublikasi Konstitutsiyasining 2️⃣2️⃣- moddasi
☁️Murojaat uchun:
@TDYU_Yuridik_klinika_bot
🖥 Bizni ijtimoiy tarmoqlarda kuzating:
💬Telegram🌐Instagram🌐YouTube🌐TikTok🌐Facebook