Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💥 “Yangi O‘zbekiston” universitetining Uzluksiz ta'lim markazi Buyuk Britaniyaning ETS tashkilot tomonidan tan olindi
🤝 Endilikda, Markaz SAT, TOEFL va TOEIC sertifikatlari uchun imtihon o‘tkazish vakolatiga ega bo‘ldi.
➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖
Continuing Education Center at New Uzbekistan University has become an Authorized ETS Testing Center for TOEFL & TOEIC
🤝 As a result of long-standing networking with ETS, the University's Continuing Education Center has been authorized to conduct exams and provide certification for SATTOEFL and TOEIC.
#ETS#TOEFL#TOEIC
⬇️Biz ijtimoiy tarmoqlarda:
Veb-sayt | Telegram | Instagram | Facebook
💥 “Yangi O‘zbekiston” universitetining Uzluksiz ta'lim markazi Buyuk Britaniyaning ETS tashkilot tomonidan tan olindi
🤝 Endilikda, Markaz TOEFL va TOEIC sertifikatlari uchun imtihon o‘tkazish vakolatiga ega bo‘ldi.
➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖
Continuing Education Center at New Uzbekistan University has become an Authorized ETS Testing Center for TOEFL & TOEIC
🤝 As a result of long-standing networking with ETS, the University's Continuing Education Center has been authorized to conduct exams and provide certification for TOEFL and TOEIC.
#ETS#TOEFL#TOEIC
⬇️Biz ijtimoiy tarmoqlarda:
Veb-sayt | Telegram | Instagram | Facebook
🔖🤝ADC да катта янгилик Андижонда ягона TOEFL маркази очилиши ва TOEFL iBT ҳамда GRE имтиҳонлари бўйича БЕПУЛ семинар! 🎓
📢 Халқаро имтиҳонларни муваффақиятли топшириш сирларини билишни истайсизми?
Andijan Development Center ва ETS ҳамкорлигида ташкил этиладиган ушбу эксклюзив тадбирда иштирок этинг!
🗓 Сана ва вақт: 2025 йил 11 апрель, соат 13:00 — 15:00
📍 Жойи: Andijan Development Center, 19А-уй, Андижон шаҳри, Ўзбекистон
🌍 Тиллар: Инглиз тили 🇬🇧 ва Ўзбек тили 🇺🇿
🎟 Кириш: Бепул (олдиндан рўйхатдан ўтиш талаб қилинади)
✨ Тадбир дастури:
📘 TOEFL iBT ва GRE имтиҳонлари ҳақида тўлиқ маълумот
🔍 Тузилиши, баҳолаш мезонлари ва имтиҳоннинг афзалликлари ҳақида билиб олинг
🎯 Тайёргарлик стратегиялари
📚 Барча бўлимлар бўйича мутахассисларнинг фойдали маслаҳатлари
❓ Савол-жавоб сессияси
💬 Спикерлардан бевосита ўзингизни қизиқтирган саволларга жавоб олинг
🎁 Иштирокчилар учун бонуслар:
✅ TOEFL iBT имтиҳони учун эксклюзив чегирма коди
🏆 TOEFL iBT учун бепул ваучер ва TOEFL Practice Onlineга кириш имконини ютиб олинг
✨ Спикерларимиз:
👩💼 Анна Гутковска-Заянц – ETS EMEA нинг Евроосиё ва Марказий Осиё бўйича минтақавий директори
👨🏫 Геннадий Владимирович Морозов – Andijan Development Center асосчиси ва директори
👩💼 Шолпан Ергалиева – ETSнинг Марказий Осиёдаги расмий вакили
🚀 Имкониятни қўлдан бой берманг – келажакдаги академик ва касбий муваффақиятингиз сари йўлни бошланг!
🔗 Рўйхатдан ўтиш ва батафсил маълумот:
👉https://etsglobal-26271412.hs-sites-eu1.com/en/ca-toefl-event-apr11
Рўйхатдан ўтиш ва маслахат:
📞 74-226-1078
📺@admofadc
📱Telegram📱Instagram📱Facebook📱TikTok📱YouTube
#TOEFL#GRE#ETS#ADC#AndijanEvent#AndijanDevelopmentCenter#ИнглизТили#Таълим#ЧетЭлдаТаҳсил
🌟 TOEFL iBT va GRE TEST MARKAZIMIZNING TANTANALI OCHILISH MAROSIMI! 🌟
📅 2025-yil 11-aprel
📍 O‘tkazilish joyi: Hotel Branch — Mashrab 19A, Andijon (3-kichik daha)
Ertaga Andijonda ta’lim tarixida yangi sahifa ochiladi! Biz faxr bilan e’lon qilamiz — TOEFL iBT va GRE xalqaro testlari uchun rasmiy imtihon markazi endi ADC ochiladi! 🇺🇸📘🎓
Ushbu markaz ETS (Educational Testing Service) bilan hamkorlikda tashkil etilgan bo‘lib, minglab yoshlarimizga OTMlarga kirish yo‘lini ochadi.
🌍 Endi xalqaro darajadagi imtihonlar — TOEFL iBT va GRE — sizga yanada yaqin, aynan Andijonda!
🎤 Tadbirda:
ETS vakillari
Viloyat va shahar hokimligi hamda Ta’lim boshqarmasi rahbarlari
Ommaviy axborot vositalari
Ilhomlantiruvchi nutqlar
Imtihon markazi bo‘ylab ekskursiya
Intervyu va press-momentlar
📢 Bu nafaqat markaz ochilishi, bu — butun viloyat yoshlari uchun xalqaro eshiklarning ochilishi!
Kelajak sizni kutmoqda — birinchilardan bo‘lib shu tarixiy daqiqaning guvohiga aylaning!
📍 Andijon Taraqqiyot — xalqaro ta’lim sari yo‘lingiz shu yerdan boshlanadi.
#TOEFL#GRE#TOEFLiBT#ETS#AndijonTaraqqiyot#Ta’lim #XalqaroTestlar#AndijondaImtihonMarkazi#KelajakBuYerdaBoshlanadi
📞 74-226-1078
📺@admofadc
📱Telegram📱Instagram📱Facebook📱TikTok📱YouTube