Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Massive Bitcoin Transfer Triggers Attention
🚨 1,080 #BTC (valued at approximately $112.59M) have been transferred between unknown wallets, raising eyebrows in the crypto community. For details, visit Whale Alert's link.
#BTC#WhaleAlert#Crypto
Massive Bitcoin Transfer Alert
🚨 999 #BTC (valued at $101,477,799) transferred between unknown wallets. For details, see the Whale Alert.
#BTC#WhaleAlert#Crypto
Major Ethereum Transfer to Coinbase
🚨 A significant transfer of 13,758 #ETH (valued at $50.5M) recently occurred from an unknown wallet to Coinbase Institutional, according to Whale Alert. More details can be found here.
#ETH#Coinbase#Crypto#WhaleAlert
Major BTC Transfer Alert
🚨 A significant transfer of 2,400 #BTC (approx. $226.46M) occurred from #Coinbase to an unknown wallet, detected by Whale Alert.
💵 Additionally, 50,000,000 #USDC (approx. $50.03M) has been minted at the USDC Treasury.
Details available here.
#BTC#Coinbase#USDC#WhaleAlert#Crypto
🚀 USDC Treasury Mints 250 Million USDC Without Stated Reason
A recent report from Whale Alert indicates that 250 million USDC has been minted at the USDC Treasury. According to NS3.AI, the report did not specify the reason behind this significant minting event. The lack of explanation has left market participants speculating about the potential implications for the cryptocurrency market.
#USDC#Treasury#Cryptocurrency#WhaleAlert#Minting#NS3AI#MarketSpeculation
Massive Transfers Alert from Bitfinex
🚨 Significant transactions reported by Whale Alert:
- 370,379,149 #USDT ($370.9M) moved from #Bitfinex to Tether Treasury.
- 30,000 #BTC ($2.8B) sent to an unknown new wallet.
#USDT#BTC#Bitfinex#WhaleAlert
Large ETH Transfer from Bitfinex
🚨 A substantial transfer of 20,000 ETH ($66.79M) has been made from #Bitfinex to an unknown wallet. More details available in the Whale Alert report. 🚨
#ETH#Bitfinex#Crypto#Market#Finance#Blockchain#WhaleAlert
Large Bitcoin Transfer Alert
A whopping 623 #BTC, valued at approximately 63.9 million USD, has been moved from #Antpool to an unidentified wallet. Details available at Whale Alert.
#BTC#WhaleAlert#Blockchain#Crypto