Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇺🇿 O'zbekiston turizmini xalqaro maydonga olib chiqish va rivojlantirishga hissa qo‘shish, yurtimizning madaniyati, urf odatlari va arxitekturasi bo‘yicha ma’lumotlar, rasm va video kontentlar hamda yurtimizdagi Siz bilmagan manzillarni Sizga ulashish maqsadida yangi “SeeYoUzbekistan” loyihasini taqdim etamiz.
✊Bizning jamoamizga qo‘shilishni va qo‘llab quvvatlashni istasangiz sahifalarimizga obuna bo‘ling va birozdan so‘ng “Mustaqillik va ezgulik” monumenti haqidagi ilk postimizni ulashamiz.
#SeeYoUzbekistan#start
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
🇺🇿 O'zbekiston turizmini xalqaro maydonga olib chiqish va rivojlantirishga hissa qo‘shish, yurtimizning madaniyati, urf odatlari va arxitekturasi bo‘yicha ma’lumotlar, rasm va video kontentlar hamda yurtimizdagi Siz bilmagan manzillarni Sizga ulashish maqsadida yangi “SeeYoUzbekistan” loyihasini taqdim etamiz.
✊Bizning jamoamizga qo‘shilishni va qo‘llab quvvatlashni istasangiz sahifalarimizga obuna bo‘ling va birozdan so‘ng “Mustaqillik va ezgulik” monumenti haqidagi ilk postimizni ulashamiz.
#SeeYoUzbekistan#start
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
👀Bor-yo‘g‘i 1 daqiqa vaqtingizni o‘g‘irlaymiz)
Ammo bu lahzalar sizni unutmas manzaralar sari olib boradi.
⛰Tovoqsoy sharsharasining jozibali shovqini, tog‘larning ma’yus tinchligi, yashillik bilan o‘ralgan tabiiy mo‘jizalar…
Bularning barchasi bizning kameramiz nigohida. O’zbekistondagi siz bilmagan go’zalmanzaralarga bizning videolarda guvoh bo’ling!
📺 Tez kunda, SeeYoUzbekistan YouTube kanalida...
#tovoqsoy#seeyouzbekistan
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
👀Bor-yo‘g‘i 1 daqiqa vaqtingizni o‘g‘irlaymiz)
Ammo bu lahzalar sizni unutmas manzaralar sari olib boradi.
⛰Tovoqsoy sharsharasining jozibali shovqini, tog‘larning ma’yus tinchligi, yashillik bilan o‘ralgan tabiiy mo‘jizalar…
Bularning barchasi bizning kameramiz nigohida. O’zbekistondagi siz bilmagan go’zalmanzaralarga bizning videolarda guvoh bo’ling!
📺 Tez kunda, SeeYoUzbekistan YouTube kanalida...
#tovoqsoy#seeyouzbekistan
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
🇺🇿 O'zbekiston turizmini xalqaro maydonga olib chiqish va rivojlantirishga hissa qo‘shish, yurtimizning madaniyati, urf odatlari va arxitekturasi bo‘yicha ma’lumotlar, rasm va video kontentlar hamda yurtimizdagi Siz bilmagan manzillarni Sizga ulashish maqsadida yangi “SeeYoUzbekistan” loyihasini taqdim etamiz.
✊Bizning jamoamizga qo‘shilishni va qo‘llab quvvatlashni istasangiz sahifalarimizga obuna bo‘ling va birozdan so‘ng “Mustaqillik va ezgulik” monumenti haqidagi ilk postimizni ulashamiz.
#SeeYoUzbekistan#start
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
Mo‘jizaviy Samarqand — tarix va zamonaviylik uyg‘unligi.
___
Magical Samarkand — where history meets modernity.
#Samarqand#Samarkand#seeyouzbekistan
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!
🇺🇿 18-noyabr - O‘zbekiston Respublikasi Davlat bayrog‘i qabul qilingan kun!
Bugungi kun milliy g‘urur va vatanparvarlikning ramzi bo‘lgan bayrog‘imizga bo‘lgan hurmat va ehtiromni yana bir bor eslatadi.
✨ Shu ulug‘ kun munosabati bilan O‘zbekistonning betakror tabiatini namoyish etuvchi mana shu suratimiz orqali tabriklarimizni yetkazmoqchimiz. Har bir vatandoshimiz qalbida davlat bayrog‘imiz kabi mangu porloq g‘urur bo‘lsin!
“SeeYoUzbekistan” jamoasi barchaniushbu unutilmas sanani qadrlashga va yurtimizni sevishga undaydi!
#DavlatBayrogʻi#SeeyoUzbekistan#KreativPark
@seeyouzbekistan • O’zbekistonni biz bilan kashf eting!