Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#hazil
Sherigingizni aniq eshitolmaydigan, lekin to'liq tushuna oladigan mehmondorchilikdagi holat🤣.
"Yaxshi" so'zi qo'shilmagan gapni toping va izohda yozib qo'ying.
🌐Sayt✈️Telegram✅Murojaat♾️Muhokama📱Instagram
#hazil
🏝"Til va adabiyot ta'limi" jurnali "yozgi ta'tilni maroqli o'tkazdi!".
⛱Siz-chi? Dam olishga ulguryapsizmi?
🌐Sayt
✈️Telegram
✅Murojaat
♾Muhokama
#hazil
Maktabda hamma tuxum boʻladi, keyin biridan toshbaqa 🐢, biridan timsoh 🐊 ochib chiqadi.
Shu kunlarda 20 yillik qilayotganlarga yuborib qo‘yamiz 😄
🌐Sayt
✈️Telegram
✅Murojaat
♾Muhokama
#hazil
Sharofiddin To‘laganov:
– Hozirgina Farruxjonga eng zo‘ri “Til va adabiyot ta’limi” jurnali deb kelyapman. Lekin Sizga ochig‘ini ayta qolay, baribir “Ma’rifat” gazetasiga yetolmaydi-i…😃
🔴BATAFSIL
Taqdimotdan olingan suratlarga qiziqarli tagsoʻzlar yozib chiqildi. Ko‘ring, bahra oling! Sizda ham fikrlar tug‘ilsa, izohlarda yozib qoldiring 👇
🌐Sayt
✈️Telegram
✅Murojaat
♾Muhokama
#hazil
“Sh”dan boshlanuvchi buyuklar
Yozuvchilarning “Do‘rmon” ijod uyida Shukrullo domla bilan ustoz Said Ahmad suhbatlashib o‘tirishibdi. Shukrullo domlaning qanadaydir sahna asari haqida gazetada tanqidiy maqola e’lon qilingan ekan, domla jig‘ibiyron bo‘lib turibdi. Vaziyat chamaladim-da, domlani yupatib, ko‘nglini ko‘tarmoqchi bo‘ldim.
– Parvo qilmang, domla, o‘zi hamma buyuk ijodkorlarning ismi “Sh”dan boshlanadi, – dedim “ikkovimizdan zo‘ri yo‘q” degan ma’noda. – Masalan, Shekspir, Shiller, Shuman, Shubert, Shtraus… – Keyin Rossiya tomonlarni oraladim: – Shostakovich, Sholoxov, Shukshin… – O‘zimiznikilar ham benasib qolmadi: – Shayxzoda, Shukur Burxonov, Shukrullo, Shukur Xolmirzayev…
– Sharof Boshbekov… – dedilar domla hazillashayotganimni tushunib.
– Kaneshno! – dedim yasama viqor bilan.
Ustoz Said Ahmad sanoqni davom ettirdilar:
– Shaid Ahmad…
Sharof BOSHBEKOV
Batafsil:https://oyina.uz/uz/teahause/36
Sayt | Telegram | Murojaat | Muhokama
Tanish dizayner:
— Suxrob aka, adashmasam siz "rasmiy tashkilot"lardan birida ishlaysiz, men ham shunaqa joyga ishga kirsam, o‘samanmi, qanday skilllarim oshadi?
Men:
— Albatta. Soqol olish skillingiz juda tez oshadi. Bir-ikki oyda sartarosh darajasiga chiqasiz, men allaqachon sartaroshxona ochishni oʻylab yuribman )
#hazil