Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#PROBLEM
Dunyoda adolatsizlik bor – ba’zilar ko‘p narsaga ega, boshqalar esa hech narsasiz...
#SOLUTION
Odamlar bir-biriga yordam berishi kerak – agar hamma faqat o‘zini o‘ylasa, hayot yomonlashadi. Faqat birlikda adolat bo‘lishi mumkin.
Xulosa:
Ba’zilarning ko‘p narsaga ega bo‘lishi faqat boylik bilan emas, balki salohiyat, imkoniyat, nasab, sog‘liq, yashash joyi kabi ustun jihatlar bilan farqlanadi. Hech narsasiz deganda esa, sog‘liq muammolari, nizolar, ochlik, qashshoqlik, ilmsizlik va boshqa imkonsiz holatlar tushuniladi.
Yechim:
Odamlar bir-biriga yordam berishi kerak, ya’ni bilgan bilmaganga o‘rgatishi, to‘q ochni to‘ydirishi, imkonli inson imkonisizga ko‘mak berishi lozim. Ya’ni, biz qanday vaziyatda bo‘lmaylik, bizdan pastdagilarga yordam berishimiz, o‘z ustimizda ishlashdan to‘xtamasligimiz va shukr qilishimiz kerak.
@Azamatjon_design#eslatmalar#problem_solution
𝐍𝐞𝐠𝐚 𝐤𝐨'𝐩 𝐡𝐨𝐥𝐥𝐚𝐫𝐝𝐚 𝐲𝐞𝐜𝐡𝐢𝐦𝐥𝐚𝐫 𝐯𝐚𝐪𝐭𝐢𝐧𝐜𝐡𝐚𝐥𝐢𝐤 𝐲𝐨𝐤𝐢 𝐱𝐮𝐬𝐮𝐬𝐢𝐲 𝐲𝐨𝐤𝐢 𝐲𝐮𝐳𝐚𝐤𝐢 𝐛𝐨'𝐥𝐚𝐝𝐢?
Chunki odatda muammo paydo bo‘lishi bilan darhol yechim izlashga kirishiladi. Natijada esa muammo to‘liq tushunilmasdan, vaqtinchalik yoki yuzaki qarorlar qabul qilinadi.
Tajribali mutahasislar esa, eng avvalo muammoning asl mohiyatini tushunishga harakat qiladi. Muammo nimadan iborat, qayerda paydo bo‘lgan, nimasi aniq, nimasi noaniq — shu savollarga javob topmasdan keyingi bosqichga o‘tmaydi. Chunki aniq ifodalanmagan muammo hech qachon to‘g‘ri yechimga ega bo‘lmaydi.
Batafsil o'rganilgandan keyin — mavjud tajribani o‘rganish. Oldin bu masalaga kimlar duch kelgan, qanday yondashuvlar bo‘lgan, qaysi usullar ishlagan yoki ishlamagan. Bu bosqich vaqtni tejaydi va takroriy xatolardan saqlaydi. Siz birinchi bo‘lib bu muammoga duch kelayotgan bo‘lishingiz kamdan-kam holat.
Shundan keyingina haqiqiy tahlil boshlanadi. Mavjud yechimlar qayerda to‘xtab qolgan, qaysi joylar e’tibordan chetda qolgan, qaysi taxminlar tekshirilmagan — aynan shu bo‘shliqlarni topish eng muhim qadamdir. Yechim ko‘pincha hamma ko‘rgan joyda emas, aynan shu bo‘shliqlarda yashiringan bo‘ladi.
Topilgan fikrlar keyin modelga aylantiriladi. Bu diagramma, jarayon xaritasi, arxitektura yoki oddiy mantiqiy ketma-ketlik bo‘lishi mumkin. Model fikrni tartibga soladi, noaniqliklarni ochib beradi va keyingi qarorlar uchun asos yaratadi.
Model tayyor bo‘lgach, u real sharoitda sinovdan o‘tkaziladi. Bu bosqichda xatolar chiqadi, zaif joylar ko‘rinadi va aynan shu orqali yechim takomillashadi. Mukammal model degan narsa yo‘q, lekin ishlaydigan va o‘zini oqlagan model bo‘ladi.
Faqat barcha shu bosqichlardan o‘tgandan keyingina yakuniy yechim paydo bo‘ladi. Bu shunchaki g‘oya emas, balki tekshirilgan, asoslangan va mas’uliyat bilan qabul qilingan qarordir.
Agar bir muammo sizni qayta-qayta qiynayotgan bo‘lsa, ehtimol muammo masalaning murakkabligida emas, balki siz o‘tkazib yuborgan qaysidur bosqichda bo'lishi mumkin.
Kuchli mutaxassislar shoshilmaydi.
Siz muammoga yechim ishlab chiqishda qanday yondashuv qilasiz?
#problem#problem_solving#skill#phd#ios#developer
Mukhriddinbek Samidov
🔗YouTube | Instagram | LinkedIn | Telegram | Medium