Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔥Presale – SHHEIKH Phase 2 (LIVE) ✅
💠Total Reward: Token Raises $6.92M+ in Phase 2, Attracts Global Investors
🚨SHHEIKH Presale Surpasses $6.92M+ — Momentum Is Unstoppable 🚨
✅ $6.92M+ raised
✅ 2.21B+ tokens sold
☀️Presale Link: – Click Here
♦️AI + RWA = the next trillion-dollar blockchain market.
♦️Secure SHHEIKH at $0.00405 before the next surge.
♦️Follow their Twitter account
♦️Join their Telegram Channel
📅End Date: TBA
📤Distribution: After campaign ends
®Note - Please do your own research (DYOR) before joining to any airdrops project.
#Crypto#Blockchain#AI#RWA#DeFi#Tokenization#Altcoins#Presale#CryptoCommunity#Wealth#FutureOfFinance#BullRun2025
Бүгін Алматыда аймақ финтех-индустриясының басты оқиғасы – Central Asia Fintech Summit басталды! 💡
«Аграрлық несие корпорациясы» АҚ да форумға қатысуда. Басқарма төрағасының орынбасары Қайрат Сапулатов цифрлық қаржы саласындағы негізгі тақырыптарды талқылайтын сарапшылардың қатарында болды:
💬 CBDC және трансшекаралық төлемдер
🤖 жасанды интеллект және машиналық оқыту
🌍 Орталық Азияның финтех-экожүйесі
💳 төлем құралдарының болашағы
🚀 қаржы саласының цифрлық инновациялары
Іс-шара біздің өңірдегі финтехтің болашағын қалыптастыратын тәжірибемен және жаңа идеялармен алмасу алаңына айналды.
#FintechSummit#CentralAsiaFintech#Алматы#Fintech#DigitalFinance#AgroCredit#Innovation#FutureOfFinance
Сегодня в Алматы стартовал Central Asia Fintech Summit — главное событие финтех-индустрии региона! 💡
АО «Аграрная кредитная корпорация» принимает участие в форуме. Заместитель Председателя Правления Кайрат Сапулатов присоединился к экспертам для обсуждения ключевых тем в сфере цифровых финансов:
💬 CBDC и трансграничные платежи
🤖 Искусственный интеллект и машинное обучение
🌍 Финтех-экосистема Центральной Азии
💳 Будущее платёжных инструментов
🚀 Цифровые инновации финансового сектора
Мероприятие стало площадкой для обмена опытом и новыми идеями, которые формируют будущее финтеха в нашем регионе.
#FintechSummit#CentralAsiaFintech#Алматы#Fintech#DigitalFinance#АКК#AgroCredit#Innovation#FutureOfFinance
Hong Kong Targets Global Virtual Asset Hub
Hong Kong unveils new roadmap to become a global virtual asset center, focusing on staking services, attracting liquidity, and exploring derivatives trading. Further endeavors include OTC and custody licensing. For details, visit Wu Blockchain News.
#HongKong#VirtualAssets#Crypto#DeFi#Liquidity#Licensing#Staking#Derivatives#OTC#Custody#Regulation#Finance#Investment#Blockchain#Web3#MarketTrends#TechUpdates#Innovation#GlobalMarkets#FutureOfFinance
⚡️𝗣𝗮𝗿𝘁𝗻𝗲𝗿𝘀𝗵𝗶𝗽 𝗔𝗻𝗻𝗼𝘂𝗻𝗰𝗲𝗺𝗲𝗻𝘁 ⚡️
ᶜʳʸᵖᵗᵒ ¹⁰⁰ˣ ⱽ ᴹᵃʳˢᵒ ᵒⁿ ᴱᵀᴴ ⁽ ᴮᵃˢᵉ ⁾🔹
Marso Token: The Next BIG Thing in Crypto is Here! 🔥🔥🔥
🚀 The new BIG thing in the crypto market is here: Marso Token is launching, and it’s coming in HOT! Ready to soar, Marso Token is set to redefine possibilities in the crypto universe. 🫡🫡🫡 Join our journey, follow all our socials, stay tuned for the latest updates, and don’t miss your chance to invest early! ⭐️⭐️⭐️⭐️⭐️
🤑🤑🤑 Get in on the action now—exclusively on BitMart! Let’s make history together with Marso Token. 🥰🥰🥰
🤩🤩🤩🤩 Join the Marso community for exciting news, contests, and more. This is only the beginning, and you’re invited to be part of it. 🤟🤟🤟
✅Website: marso.tech
✅Telegram: https://t.me/MarsoUniverseCommunity
🚀X: https://x.com/marsouniverse?s=21
📱Instagram: https://www.instagram.com/marsouniverse?igsh=ZjR4cW5vZXVpdmMy&utm_source=qr
#MarsoToken#CryptoLaunch#BiggestCrypto#InvestNow#CryptoCommunity#Bitmart#MarsoUniverse#AltcoinSeason#CryptoFuture#BlockchainInnovation#EarlyInvestors#CryptoBuzz#NextBigCoin#FutureOfFinance#MarsoToTheMoon