Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
⚠️Hey guys! We've detected some issues with sticker links. There are some packs experimenting "Pack not found" errors. Anyway you could add it by tapping the sticker!
ℹ️ As a result, we will just post the pack title, tags and the sticker related. Thanks for being there and keep on sticking it!
Join our Stickers Chat, make your #Request or share your cool stickers and help the community. Over 2K members are waiting for you!@stickersChat
😎@S4DynamicsTeam
👏 Here Are The Links To Our New Channels. Please Send A Request And Wait. All Request Will Be Accepted Within 2 To 3 Days. 🙏
❤️ Channels:
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙼𝚘𝚟𝚒𝚎𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝚂𝚎𝚛𝚒𝚎𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙲𝚘𝚕𝚕𝚎𝚌𝚝𝚒𝚘𝚗'𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙷𝚊𝚗𝚐𝚘𝚞𝚝 - For #request Content
Or You Can Add Our Folder Also by clicking here
👋Backup - @ParadoxBackup
🌟
Iriun Webcam_[Pro]_2.8.5
#Request
🅿️App Info : Click Here
🌀Mod Info:
๏ Pro Features Unlocked
๏ Ads Disabled/Removed
๏ Cpu Arch Arm64-v8a, Armeabi-v7a
๏ Full Multi language support
๏ A12, A13, A14 Support
Join Telegram For More Update!
☀️Join @itsmealexaliza For More..
👉Here Are The Links To Our New Channels. Send A Request And Done. Share with Friends🙏
❤️ Channels:
• 𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙼𝚘𝚟𝚒𝚎𝚜
• 𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝚂𝚎𝚛𝚒𝚎𝚜
• 𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙲𝚘𝚕𝚕𝚎𝚌𝚝𝚒𝚘𝚗'𝚜
• 𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙷𝚊𝚗𝚐𝚘𝚞𝚝 - For#requestContent
Or You Can Add Our Folder Also by clickinghere👋Backup -@ParadoxBackup
👏 Here Are The Links To Our New Channels. Please Send A Request And Wait. All Request Will Be Accepted Within 2 To 3 Days. 🙏
❤️ Channels:
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙼𝚘𝚟𝚒𝚎𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝚂𝚎𝚛𝚒𝚎𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙲𝚘𝚕𝚕𝚎𝚌𝚝𝚒𝚘𝚗'𝚜
🌟𝙿𝚊𝚛𝚊𝚍𝚘𝚡 𝙷𝚊𝚗𝚐𝚘𝚞𝚝 - For #request Content
Or You Can Add Our Folder Also by clicking here
👋Backup - @ParadoxBackup
🌟