Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
☝️Bilasizmi?
🏋🏻♂️ Ogʻir atletika boʻyicha Oʻzbekiston terma jamoasi kattalar oʻrtasidagi jahon chempionatlarida ketma-ket 5 bor oltin medal qoʻlga kiritdi. Bunday natijani hech bir jamoamiz takrorlay olmagan.
—
☝️ Знаете ли вы?
🏋🏻♂️ Сборная Узбекистана по тяжёлой атлетике уже пятый раз подряд удостоилась золотой награды на чемпионатах мира среди взрослых. Ни одна другая отечественная команда пока не смогла повторить такой результат.
#Fakt
👉@OlympicUz
olympic.uz I YouTube I Instagram I
#FAKT
BMB Professional Futzal Klubi tashkil etilganidan buyon mamlakat chempionatida Navoiyning “Qizilqum” jamoasiga qarshi ikki bor toʻqnash kelgan.
Ilk bahsda 7-1, ikkinchi bahsda esa 8-0 hisobida gʻalaba qayd etib, “Oq Yoʻlbarslar”ning qoʻli baland kelgan.
Bugun ular yana bir bor oʻzaro toʻqnash keladi.
BMB PFC - QIZILQUM uchrashuvi muxlislar uchun tomoshabop boʻlishi kutilmoqda.
Soat 19:00 da Andijon shahridagi “Universal SM”da start oladigan bahsga barcha futzal ixlosmandlarini taklif etamiz.
OʻTKAZIB YUBORMANG!
Telegram|Facebook|Instagram | Uzum
#FAKT
“Oq Yoʻlbarslar”ning “Neftchi” jamoasiga qarshi kechgan soʻngi ikki uchrashuvi “Oʻzbekiston kubogi” chorak finaliga toʻgʻri kelgan edi. Buxoro shahrida boʻlib oʻtgan bosqichda 9-0 hamda 8-0 hisobida BMB PFC ustun kelgan boʻlib, umumiy hisobda raqiblar darvozasiga 17 ta gol kiritilgan.
Bugun boʻlib oʻtadigan navbatdagi bahs ham gollarga boy boʻlishi kutilmoqda. Uchrashuv soat 17:00 da Andijon shahridagi “Universal SM”da start oladi.
OʻTKAZIB YUBORMANG!
Telegram|Facebook|Instagram | Uzum
#Fakt
Roʻziqul Berdiyev professional faoliyatidagi ilk golini “Yangiyer” jamoasi safida kiritgan. U o‘z debyut golini o‘yin yakuniga yaqin, 90-daqiqada “Paxtakor” darvozasiga yo‘llab, faoliyatiga unutilmas start bergan.
https://t.me/AbdullaCAfotograf
#fakt
AMIR TEMUR QABRI NEGA OCHILGAN? USHBU VIDEO ORQALI SIZ BILMAGAN MA’LUMOTLARGA EGA BOʻLASIZ?
📮𝒀𝒐'𝒍𝒊𝒎𝒊𝒛-𝒃𝒊𝒓!
📝Telegram
💻Instagram
🎞Youtube🎙Radio FM _106.7
#fakt
✏️Fargʻonaning eng goʻzal shaharlaridan biri Margʻilon tarixi haqida nimalarni bilasiz?
Videoni koʻring va ma’lumot oling!
📮𝒀𝒐'𝒍𝒊𝒎𝒊𝒛-𝒃𝒊𝒓!
📝Telegram
💻Instagram
🎞Youtube🎙Radio FM _106.7
#FAKT|
📢FARG'ONA VILOYATINING HUNARMANDLAR SHAHRI HISOBLANGAN RISHTON TUMANI HAQIDA NIMALARNI BILASIZ? USHBU VIDEO QADIMGI VA HOZIRGI RISHTON HAQIDA
📮𝒀𝒐'𝒍𝒊𝒎𝒊𝒛-𝒃𝒊𝒓!
📝Telegram
💻Instagram
🎞Youtube🎙Radio FM _106.7