Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Xushxabar! Endilikda oʻzbekcha matnlarni ham tekshiradigan ilova bor! Chrome ishlatadiganlar Tahrirchi ilovasini oʻrnatib olib, bexato yozishlari mumkin.
Oʻzbekcha Vikipediya foydalanuvchilari uchun ayniqsa yaxshi dastyor boʻladi bu ilova. Ham vizual, ham manbani tahrirlash rejimlarida yaxshigina ishlayapti. #tahrirchi#imlo#tilimizuchun
Bugungi kunga kelib, «Project Managers» IT-kompaniyasi faoliyatining asosiy yo‘nalishlari bo‘lmish dasturlash, robototexnika va dizayn kabi sohalarda, IT mutaxassislarini o‘qitishdan iborat. 🚀
Shuningdek, autsorsing asosida kompaniya turli Respublika va xorijiy kompaniyalarga IT xizmatlarini taqdim etadi. Bundan tashqari, kompaniya, axborot texnologiyalari sohasida konferensiyalar va tadbirlarni tashkil etib kelmoqda. 🤝
Biz, yechim tariqasida taklif etayotgan muharrir yordamchimiz, barcha asosiy deb hisoblangan platforma va qurilmalarga osonlikcha moslashishi mumkin va har bir kishining ehtiyojini to‘laqonli qondirish uchun turli xil yechimlarni taklif etadi.
Bepul obunachi sifatida, siz kundalik yozishmalaringizni yaxshilashingiz va so‘z boyligingizni to‘ldirishingiz mumkin. 📝
Alohida eʼtibor berish kerak deb hisoblaymiz: 📍
- tizim to‘laqonlikcha bepul xizmat ko‘rsatishi;
Istalgan turdagi foydalanuvchi ushbu mahsulotning xizmatlaridan foydalanishi mumkin, xoh u chekka hududdagi o‘quvchi, xoh katta nashriyot muharriri.👩🏻💻
- «Machine Learning» texnologiyasi;
Siz xatoliklarni qancha ko‘p tekshirsangiz, tizim o‘zini ustida yanada ko‘proq ishlab va yaxshiroq natijalar ko‘rsatishga harakat qiladi!
Ha, bizning tizim o‘zi o‘qib o‘zi o‘rganadi. 🤖
- dasturchilar uchun REST-API xizmati;
Biz har doim hamkorlikka tayyormiz va birgalikda ona tilimizni rivojlantirish uchun barcha tashabbuslarni qo‘llab-quvvatlaymiz! 👨🏻💻
Matn.uz – o‘zbek tilida bexato yozamiz! ✌🏻
#PM#matnuz#redaktor#Muharrir#Tahrirchi
#UISDevelopment#Imlo#OnaTili
Milliy mass-mediani qo‘llab-quvvatlash va rivojlantirish jamoat fondi (@massmediauz )
Fondning asosiy maqsadi, ommaviy axborot vositalariga media bozorida teng sharoit yaratish, ularni yanada rivojlantirish hamda jurnalist va blogerlarning huquqlarini ro‘yobga chiqarishga ko'maklashishdir. 🤝
“Matn.uz” platformasining maqsadi esa – o‘zbek tilida bexato yozishga ko‘maklashish hamda savodxonlik markazi sifatida o‘rin egallashdir. 🚀
Ilova "Project Managers" kompaniyasi va "Milliy mass-mediani qo‘llab quvvatlash va rivojlantirish jamoat fondi" bilan birgalikda ishlab chiqildi.
Loyihaning negizida, ko‘plab izlanishlar hamda zamonaviy yondashuvga asoslangan mehnat yotadi.💪🏻
Qisqacha tanishuv: 👨🏻💻👩🏻💻
- lotin alifbosida keltirilgan matningiz kiril alifbosiga o‘girib berish (shu o‘rinda krill alifbosidagi matnni lotin alifbosiga o'girish);
- 5 000 belgiga ega matningizni bittada tahrirlash;
- sizni qiziqtirgan so‘zning to‘liq lug‘aviy izohi;
- foydalanuvchiga qulay bo‘lgan zamonaviy dizayn interfeysi;
- shu joyning o‘zida matn tahriri va boshqalar.
Yaratgan ilovamiz sizning ishingizga unumdorlik , matningizga esa baraka keltiradi degan umiddamiz!
Matn.uz – o‘zbek tilida bexato yozamiz! ✍🏻
#Bexato#Qulay#Bepul
#MassMedia#Muharrir#Tahrirchi#matnuz#OnaTili#Imlo